《重生2009:我靠投資成首富》第 373 章 發布倒計時(1)

作者:是銘仔呀·19天前

十二月十一日,距離靈犀預覽版釋出還有九天。

陸堯在早上七點就到了聯想總部,比平時早了整整一個小時。

AI研究院的辦公區裡已經坐了大半的人,有人盯著螢幕跑測試,有人對著白板畫架構圖,有人端著咖啡在走廊裡快步走過。

空氣裡有一種被壓縮過的緊張感,像考試前最後幾天的自習室。

倪光南比他更早到。

八十歲的老人坐在會議室裡,面前攤著三臺筆記型電腦,一臺跑端側模型,一臺跑端雲協同,一臺開著即時監控面板。

他見陸堯推門進來,摘下老花鏡,說了第一句話。

“端側模型的拆分方案跑通了。日常對話模型十二億引數,跑在征程四代上的推理速度是每秒五十二個token。

知識問答模型全部放在雲端,端側只做意圖識別和轉發,中間的多輪對話和複雜寫作走端雲協同。”

“體驗資料呢?”陸堯在他對面坐下。

“日常對話的體驗跟ChatGPT持平。多輪對話稍微差一點,大概九成,複雜作業八成五。”倪光南翻開筆記本,“但端雲切換的失敗率壓到了百分之零點八,比目標低。”

陸堯在筆記本上記了一筆。

失敗率百分之零點八,意味著每一百次端雲切換隻有不到一次失敗。

這個資料可以接受。

“壓力測試什麼時候能跑完?”

“今天下午。”倪光南說,“AI研究院的測試團隊在做最後一輪壓力測試,模擬十萬使用者同時使用靈犀的場景。

端側推理、端雲切換、雲端回傳,三條鏈路同時跑。

今天下午三點出結果。”

從倪光南的會議室出來,陸堯去了地平線餘凱的晶片測試實驗室。

餘凱正在跟地平線的工程師除錯征程四代的硬體加密引擎。

螢幕上顯示著端雲加密鏈路的即時延遲資料,平均八毫秒,峰值十二毫秒。

“硬體加密引擎的驅動全部跑通了。”餘凱轉過身來,“征程四代的安全加密引擎跟火山引擎的加密協議做了硬體級對接。

端雲之間的資料加密不再佔用CPU資源,全部走硬體通道。

延遲從軟體加密的十二毫秒壓到了八毫秒。”

“功耗呢?”

“四瓦。跟設計目標一致。”餘凱翻開筆記本,“征程四代的推理單元在峰值負載下功耗會往上走一點,但端側模型的拆分方案把負載分散了,峰值功耗沒有超過四點二瓦。”

陸堯在實驗室裡走了一圈,看了幾臺測試裝置。

征程四代的晶片樣品插在測試板上,螢幕上滾動著即時功耗和推理速度的資料。

。秒毫十四到不隔間,來出標線綠條一用上幕螢在間瞬的換切,答問識知理型模端雲,話對理型模側端,路鏈整完的同協雲端著跑上置裝的邊旁

。問堯陸”?樣麼怎得做饋反覺視的換切雲端“

。條度進的淡很個一現出會上幕螢,後之題問輸者用使“,說凱餘”。條度進的微細個一了做“

。斷會不但,下一頓微稍會條度進候時的換切雲端,快得走條度進候時的理側端

”。換切的端雲和側端到不覺但,考思在IA到覺能者用使

。頭點了點堯陸

。裡節細些這在就壞好的驗但,意注意刻會不者用使節細種這

。”了住卡IA“是掉斷,”考思在IA“是下一頓。事回兩是掉斷和下一頓條度進

。障故是者後,驗是者前

。度進備籌的會出釋了慶元楊跟裡室議會的部總想聯在堯陸,點兩午下

猜你喜歡

同題材或同分類的其他作品。