최근 OpenAI가 Sora를 발표하면서 대규모 언어 모델(LLM)에 대한 관심이 더욱 높아지고 있습니다. LLM에 1년간 깊이 관여해 온 프로덕트 매니저로서, LLM의 큰 맥락에서 실제 업무 경험을 공유하겠습니다.
1. LLM은 테크 대기업의 '정치적 올바름' 표준이 되었다
SNS, 모바일 인터넷, 블록체인, 메타버스에 이어 2023년은 다시 한번 제4차 산업혁명——AI 시대의 원년으로 불리고 있습니다. 주요 테크 기업들은 기존 개념을 넘어 새로운 기회를 발견하고 치열한 경쟁을 시작했습니다. OpenAI, Microsoft, Google, Meta는 명확한 전략으로 빠르게 전진하고 있습니다. 이전과 달리, 중국의 대형 인터넷 기업들은 제한된 컴퓨팅 파워와 불명확한 애플리케이션 시나리오로 인해 다음 단계에 대해 신중하고 불확실한 태도를 보이고 있습니다.
2. 경영진은 사랑, 두려움, 무력감을 경험하고 있다
경영진과 CIO들도 셀프 미디어에 의해 미친 듯이 세뇌당하고 있습니다. 대부분의 제품 의사결정자들이 대규모 모델의 작동 방식을 이해하지 못함에도 불구하고, 내부 및 외부적으로 다른 사람들보다 한 발 앞서 대규모 모델을 구현하기로 결정했습니다. ChatGPT를 자사 어시스턴트로 브랜딩한 후, 내부 기업 정보가 회사 외부는 물론 해외로까지 전송되고 있음을 발견하여 법적 리스크가 발생했습니다. 게다가 느린 인터랙션은 거의 사용할 수 없는 수준입니다.
3. 전 세계 최대 테크 대기업들이 ChatGPT를 복제하고 있다
ChatGPT가 대화 + 프롬프트 인터랙션 모드를 시작한 이래, 테크 대기업들은 그 인텔리전트 어시스턴트를 거의 동일하게 모방했습니다. API, 멀티모달 애플리케이션, 스토어가 뒤따릅니다. OpenAI의 다음 획기적인 기능은 알 수 없지만, 한 가지 확실한 것은 모두가 따라하기를 열심히 기다리고 있다는 것입니다.
4. 이것은 "벌거벗은 임금님"일 수 있다
소셜 미디어, 업계 포럼, 제품 출시 행사 어디에서든 많은 사람들이 대규모 모델이 자사 제품을 활성화시키고 수천 개의 기업을 위한 산업 특화 모델을 육성했다고 주장합니다. 그러나 이러한 대규모 모델이 전문 분야에서 이해력이 부족하고 수행할 수 없는 작업이 많다는 것을 인정하는 사람은 없습니다. 대규모 모델이 전문적이거나 특정 분야의 지식을 습득하는 데는 상당한 비용이 수반됩니다.
5. 미디어는 흥분하지만, PM, 코더, 비즈니스 전문가는 모두 우울하다
시간의 약 90%가 수집, 작성, 정제, 포맷팅, 슬라이싱, 트레이닝, 라벨링 등 데이터 관련 작업에 소비됩니다. 이 과정은 매일, 매주, 매달 계속됩니다. 생산 연구팀은 정보의 정확성에 대해 불확실한 경우가 많습니다. 비즈니스 전문가는 모델 트레이닝 방법을 모릅니다. 프로덕트 매니저는 비즈니스 전문가와 LLM 간의 직접적인 커뮤니케이션을 촉진하는 방법을 고민하고 있습니다. 이 과정의 끝은 누구에게도 보이지 않습니다.
6. 클라우드 플랫폼의 새로운 성장 포인트로 빠르게 부상했다
기존 클라우드 플랫폼 제공업체들은 ML 기반의 LLM 트레이닝 플랫폼을 도입했습니다. MLOps에 이어 LLMOps 개념이 도입되었습니다. 기술적 및 컴퓨팅 파워 과제에도 불구하고, 클라우드 플랫폼은 LLM을 차세대 인프라로 전환하고 있습니다. 그러나 그 설계는 조잡하고 비즈니스 전문가가 직접 사용하기 어렵다고 인식되는 경우가 많습니다. 클라우드 서비스 프로덕트 매니저들은 사용자가 LLM의 기능을 어떻게 활용할지 아직 완전히 이해하지 못한 것으로 보입니다.
7. 점차 전면에서 후면으로 전환하며, 비즈니스를 핵심으로 삼다
반년간의 집중적인 노력 끝에, 대규모 모델만으로는 모든 것을 달성할 수 없다는 것을 깨달았습니다. 대규모 모델을 주요 방법으로 비즈니스 프로세스를 구축하는 것은 적시에 비용 효율적인 솔루션을 제공하고 비즈니스 요구를 충족하며 확실한 투자 수익률을 실현하는 데 부족합니다. 많은 프로덕트 매니저들은 현재 대규모 모델을 오프라인으로 사용하여 비동기 지식 및 데이터 처리를 지원하고 있습니다. 이러한 모델이 새로운 형태의 지식을 효과적으로 학습하고 결합할 수 있도록, 이 비즈니스 로직을 포함하는 코드 스니펫에 새로운 이름을 부여했습니다——Agent.
8. 업계가 차세대 애플리케이션의 새로운 형태를 정의하기 시작했다
사람들이 어떤 웹사이트나 앱을 사용할지 결정할 필요가 없는 미래를 상상해 보세요. 대신 AI에게 의도를 말하기만 하면 AI가 직접 답을 찾거나 작업을 수행합니다. 이 인터랙티브 AI는 차세대 애플리케이션 형태를 대표할 수 있습니다. 현재 많은 프로덕트 매니저들은 이를 챗봇으로 설계하고 있으며, 때로는 인텔리전트 어시스턴트라고 부릅니다. 그러나 안타깝게도 여러 어시스턴트가 있어도 사용자는 여전히 의사결정이나 검색을 해야 합니다.
9. 규제가 이전보다 더 빨리 도래하고 있다
오피니언 리더들은 "미래에 AI를 활용하지 않으면 패배자가 될 것"이라고 선언하고, 곧 강좌를 제공하여 수익을 올리기 시작했습니다. OpenAI는 단 일주일 만에 수백만 개의 새로운 "앱" 또는 Agent가 등장할 수 있음을 보여주었습니다. 그 결과 방대한 양의 민감한 데이터가 전 세계 데이터 센터에 업로드되고 있으며, 상충하는 가치관이 무제한으로 혼합되고 있습니다. 이처럼 빠르게 정부의 관심을 끈 제품 유형은 없었습니다.
10. AI는 기술의 신전에서 내려와 일반인도 접근 가능해졌다
AI 트레이닝은 한때 알고리즘 엔지니어의 전유물이었습니다. 그러나 모델 배포 후에는 비즈니스 전문가와 사용자의 트레이닝 과정 참여가 더 많이 요구됩니다. 프롬프트 생성 도구와 트레이닝 플랫폼을 사용하면 알고리즘 지식 없이도 모델 트레이닝을 완료할 수 있습니다. 소규모 모델도 소프트웨어 설치처럼 서버나 개인 컴퓨터에 쉽게 배포할 수 있습니다. 이것은 알고리즘 엔지니어를 불안하게 만드는 중대한 변화입니다.