如果端側大模型的體驗能做到ChatGPT的八成，使用者就沒有理由把資料交給雲端。
“倪院士，”陸堯說，“我們的端側大模型，什麼時候可以釋出？”
“原計劃是明年二季度。”倪光南說，“但如果你要提前，下個月可以出一個預覽版。
引數規模還是五十億，但對話體驗可以最佳化。
我把團隊調到端雲協同模式——端側跑輕量對話，複雜任務轉發雲端。
使用者覺得是本地在回答，實際上端雲無縫切換。”
“下個月發。”陸堯說，“不要叫‘中國版ChatGPT’。叫聯想靈犀。
端側大模型，本地執行，資料不出裝置，這是我們的定位，不要跟ChatGPT比引數，比隱私和延遲。”
掛了電話之後，陸堯又撥了餘凱的號碼。
餘凱顯然也在加班，電話接起來的時候背景裡有鍵盤聲。
“陸總，征程五代的架構方案我重新過了一遍。”餘凱說，“如果端側大模型要支援對話式互動，推理的峰值算力要求比現在高。
征程五代的設計目標要往上提，128TOPS可能不夠，要往256TOPS走。”
“來得及嗎？”
“架構改一版，明年二季度流片，三季度量產。”餘凱說，“但如果要提前到明年一季度，只能先用征程四代做適配。
征程四代的64TOPS算力跑五十億引數的對話模型，推理速度會慢一些，但能用。”
“先用四代。”陸堯說，“體驗可以慢慢最佳化，但釋出時間不能等。
OpenAI已經跑出去了，我們如果等半年再發，市場就不會把我們當第一梯隊。”
掛了餘凱的電話，陸堯又給朱一鳴發了一條訊息：“長興儲存的HB能，明年能不能再擴一倍？端側大模型對記憶體頻寬的要求比普通推理高很多。
”朱一鳴回得很快：“已經在規劃了，三期擴產的裝置裡有一條HB線，明年二季度投產。
如果需求再往上走，四期可以提前立項。”
陸堯把手機放在茶几上，站起來走到窗前。
十二月的燕京深夜，中關村的樓群在夜色中只剩一片模糊的輪廓，遠處國貿三期的燈光在灰藍色的天幕下泛著冷白色的光。
他想起2019年端側大模型剛立項的時候，倪光南說“等到了”。
三年過去了，OpenAI用ChatGPT證明了大模型的價值，但聯想走了一條不一樣的路。
這條路更窄、更難，但如果走通了，會比雲端大模型更紮實。
他拿出手機，給王嶽發了一條訊息：“音浪上準備一個專題，叫‘端側AI’。
把聯想靈犀的端側大模型、地平線的征程晶片、長興儲存的HB在一起講。
讓使用者知道，大模型不一定要在雲端跑，也可以在手機和PC上本地跑，資料不出裝置。”
”。好“：字個一了回嶽王
。上發沙回坐新重，袋口進放機手把堯陸
。”劃規略戰IA想聯年3202“著寫頁一面上最，案檔的會略戰度季份那著攤還上几茶
”。側端在化異差，TPGtahC標對。版覽預犀靈，月21“——字行一了寫邊旁欄一那”間時出釋型模大側端“在，筆起拿他
。眼兒會一了閉上發沙在靠，上合案檔把他
。帶的集片一連中夜在燈的期三貿國遠，緩沉而靜安夜深京燕的外窗
。論討在都圈技科球全，TPGtahC了出釋IAnepO
。口的臺平算計代一下是型模大——路條那的證驗它是而，本TPGtahC是不的心關堯陸但
。中理推地本的置裝想聯臺一每在，BH的存儲興長在，上片晶的線平地在，側端在口的想聯
