十一月三十日,燕京。
陸堯是在深夜十一點看到這條訊息的。
他剛開完聯想控股的季度戰略會,回到公寓,洗完澡坐在沙發上,手機螢幕亮了一下。
是餘凱發來的連結,標題寫著“OpenAI釋出ChatGPT,五天使用者破百萬”。
連結下面附了一句話——“陸總,你看一下,這個模型的能力比我們預想的還要強。”
陸堯點開連結,把ChatGPT的演示影片看了一遍。
螢幕上,一個對話方塊,使用者輸入問題,模型即時給出回答。
寫程式碼、寫郵件、翻譯、解釋概念,甚至能模仿特定風格寫文章。
他看了兩遍,然後把手機放在茶几上,靠在沙發上想了幾分鐘。
OpenAI的GPT系列他一直都在關注。
2020年GPT-3釋出的時候,他就讓倪光南的團隊做過技術評估。
那時候的結論是,GPT-3的雲端推理模式對端側裝置不友好,引數規模太大,功耗太高,無法在手機和PC上本地執行。
聯想的路線是端側大模型,引數規模控制在百億以內,用地平線的晶片做本地推理。
這條路走了三年,從十億引數做到五十億引數,從純文字做到多模態。
但ChatGPT不一樣。
它的使用者體驗是顛覆性的,對話式互動、即時反饋、極強的通用能力。
陸堯在影片裡看到一個使用者讓ChatGPT寫一首詩,模型在三秒內生成了一首押韻工整的五言絕句。
另一個使用者讓ChatGPT解釋量子糾纏,模型用一段通俗的比喻把概念講清楚了。
這種能力,聯想的端側模型目前做不到。
他拿起手機撥了倪光南的號碼。
響了四聲,那頭接起來,八十歲老人的聲音在深夜聽不出睏倦:“陸總,你看到訊息了?”
“看到了。”
“我看了三遍。”倪光南說,“GPT-3.5的架構跟GPT-3一脈相承,但OpenAI在指令微調和人類反饋強化學習上做了大量最佳化,效果提升很明顯。”
“我們的端側模型,差距在哪裡?”
倪光南在電話那頭沉默了兩秒,然後說了一句很直接的話:“差距在互動體驗,不在底層能力。
我們的五十億引數端側模型在推理速度和隱私保護上有優勢,但對話的流暢度和通用性不如ChatGPT。
ChatGPT是純雲端方案,引數規模是千億級別,我們端側跑不了。”
“如果我們也做雲端呢?”
。場戰的組元位和度百、里阿是那,料資和力算量海要需型模大端雲“,說南倪”。端雲在不勢優的想聯但,做以可“
。上置裝在,側端在力能心核的想聯
。強私,低遲延,置裝出不料資,上片晶線平地在跑型模大側端的們我
。通走沒還也果蘋和歌谷,走有沒IAnepO路條這
”。化異差的正真是才那,型模的TPGtahC近接驗、行執地本上CP和機手在能個一出做,線路側端持堅們我果如
。秒幾了想,上發沙在靠堯陸
。對得說南倪
。司公的型模大側端個一第做是,IAnepO個二第做是不位定的想聯
。控可不遲延,傳上要料資,路網賴依——頸瓶的然天有式模端雲的它但,力能用通的型模大了證驗TPGtahC
。機手和CP臺萬千幾貨出年每,置裝躍活臺億一有想聯








