最近，OpenAI釋出了Sora，進一步推動了人們對大語言模型（LLM）的關注。作為一名深度參與LLM工作一年的產品經理，我將在LLM的大背景下分享我的實際工作經驗。
1. LLM已成為科技巨頭的"政治正確"標配
繼社交網路、移動網際網路、區塊鏈和元宇宙之後，2023年再次被譽為第四次工業革命——AI時代的元年。各大科技公司在傳統概念之外發現了新的機遇，並展開了激烈的競爭。OpenAI、微軟、谷歌和Meta正以清晰的戰略快速推進。與以往不同的是，中國的大型網際網路公司由於算力有限和應用場景不明確，目前對下一步行動持謹慎和觀望態度。
2. 老闆們經歷著愛、恐懼和無奈
老闆和CIO們也被自媒體瘋狂洗腦。儘管大多數產品決策者並不瞭解大模型的運作方式，他們仍然決定在內部和外部率先實施大模型，搶在他人之前。在將ChatGPT包裝成自己的助手後，他們發現內部企業資訊不僅被髮送到公司外部，甚至傳送到了國外，從而引發了法律風險。而且遲緩的互動體驗幾乎無法使用。
3. 全球最大的科技巨頭都在複製ChatGPT
自從ChatGPT開創了對話+提示詞的互動模式以來，科技巨頭們幾乎完全照搬了其智慧助手的模式。API、多模態應用和應用商店緊隨其後。雖然OpenAI的下一個突破性功能尚不可知，但有一點是確定的：所有人都在急切地等待跟進。
4. 這可能是"皇帝的新衣"
無論是在社交媒體、行業論壇還是產品釋出會上，許多人聲稱大模型已經為他們的產品注入了新的活力，甚至為數千家企業孵化了行業專用模型。然而，沒有人敢承認這些大模型在專業領域往往缺乏理解力，有很多工它們無法完成。大模型獲取專業或特定領域知識往往需要付出巨大的代價。
5. 媒體興奮不已，產品經理、程式設計師和業務專家卻都很沮喪
大約90%的時間被資料相關任務所消耗，包括收集、編寫、清洗、格式化、切片、訓練和標註。這個過程日復一日、周復一週、月復一月地持續著。生產研發團隊常常對資訊的準確性感到不確定。業務專家不確定如何訓練模型。產品經理在思考如何促進業務專家與LLM之間的直接溝通。這個過程的終點對每個人來說都不明朗。
6. 迅速成為雲平臺的新增長點
傳統雲平臺提供商基於機器學習推出了LLM訓練平臺。繼MLOps之後，LLMOps的概念應運而生。儘管面臨技術和算力方面的挑戰，雲平臺正在將LLM轉變為下一代基礎設施。然而，其設計往往被認為粗糙，業務專家難以直接使用。看起來雲服務產品經理尚未完全理解使用者將如何利用LLM的能力。
7. 逐漸從前臺轉向後臺，以業務為核心
經過半年的高強度努力，我逐漸意識到大模型本身無法完成所有事情。以大模型為主要方法構建業務流程，無法及時、經濟地滿足業務需求並提供可靠的投資回報。許多產品經理現在離線使用大模型來輔助非同步知識和資料處理。為了讓這些模型有效地學習和組合新形式的知識，我們給這種包含業務邏輯的程式碼片段起了一個新名字——Agent。
8. 行業開始定義下一代應用的新形態
想象一個未來，人們不再需要決定使用哪個網站或應用程式。相反，他們只需告訴AI自己的意圖，AI就會直接找到答案或執行操作。這種互動式AI可能代表著下一代應用形態。目前，許多產品經理將其設計為聊天機器人，有時稱為智慧助手。然而遺憾的是，即使有多個助手，使用者仍然需要做出決策或進行搜尋。
9. 監管來得比以往更早
意見領袖宣稱："如果你將來不使用AI，你就是失敗者"，並很快透過提供課程來獲利。OpenAI進一步展示了數百萬個新"應用"或Agent可以在短短一週內湧現。因此，大量敏感資料正在被上傳到全球各地的資料中心，導致相互衝突的價值觀不受約束地混合在一起。沒有任何其他產品型別能如此迅速地引起政府的關注。
10. AI已從技術神壇走下，變得普通人也能觸及
訓練AI曾經是演算法工程師的專屬領域。然而，在模型部署之後，現在需要業務專家和使用者更多地參與訓練過程。藉助提示詞生成工具和訓練平臺，你可以在沒有任何演算法知識的情況下完成模型訓練。即使是小規模模型也可以輕鬆部署到伺服器或個人電腦上，就像安裝軟體一樣。這是一個重大轉變，讓演算法工程師感到不安。