十二月三日，燕京。
字節跳動旗下的火山引擎團隊是三家雲服務商裡第一家到聯想總部做技術對接的。
領頭的人叫周衡，火山引擎負責端雲協同架構的技術總監，三十多歲，戴一副黑框眼鏡，說話語速很快，但每句話都在點子上。
他帶了兩個人，一個負責加密協議，一個負責效能最佳化。
陸堯沒有全程參加。
他在上午十點的時候去了一趟會議室，周衡正站在投影幕布前，給AI研究院的工程師演示端雲切換的完整鏈路。
“端側模型處理一句對話，先做本地推理，判斷任務複雜度。”周衡按下遙控筆，螢幕上彈出一張流程圖，“如果複雜度在端側的處理能力範圍內，直接在本地回答。
如果超出範圍，加密、上傳、雲端處理、回傳、端側解密。
整個鏈路的目標延遲是四十毫秒。”
螢幕上跳出一組實測資料。
端側推理的延遲是八毫秒，加密通道的握手是十二毫秒，雲端處理是十五毫秒，回傳和解密是七毫秒，加起來四十二毫秒。
“比目標多了兩毫秒。”周衡說，“加密通道的握手時間有點長。
我們在調協議棧的配置，把TLS握手和國密S的金鑰交換合併成一步，應該能壓到十毫秒以內。”
陸堯站在會議室後面聽了一會兒。
周衡講完技術方案之後，AI研究院的工程師開始提問，問題集中在加密協議的效能開銷和端雲切換的觸發條件上。
周衡一一回答，每個回答都帶著具體的資料和實測結果。
會議結束之後，陸堯把周衡單獨留了下來，兩個人在會議室旁邊的休息區坐下。
趙恆端來兩杯茶，放在桌上。
“周總，火山引擎在端雲協同上的技術積累，比我想象的深。”陸堯端起茶杯，“你們做抖音的推薦系統，端側和雲端的協同一直是核心架構。
這個經驗能直接複用到聯想的端側大模型上嗎？”
周衡端起茶杯喝了一口，放下：“陸總，火山引擎的端雲協同架構最早就是為抖音的短影片推薦做的。
使用者在手機端刷到一個影片，端側模型先做初步篩選，判斷這個使用者的興趣偏好，然後把候選影片的ID發到雲端，雲端做更復雜的排序和召回。
整個鏈路的延遲控制在三十毫秒以內，使用者感覺不到端側和雲端的切換。”
“推薦系統的端雲協同跟大模型的端雲協同，區別在哪裡？”陸堯問。
“推薦系統的端側模型很小，引數量在千萬級別，只做初步篩選。”周衡說，“大模型的端側模型大得多，五十億引數，端側要做完整的對話推理。
這對端側晶片的算力、功耗和記憶體頻寬都是挑戰。
但底層的架構邏輯是一樣的，端側做輕量推理，雲端做過載計算，切換必須無感。”
陸堯靠在沙發上，看著周衡。
。料資測實和節細技著帶都話句一每，子彎繞不，接直很式方的話說人個這
。格風種這是也凱餘，候時的片晶線平地談次一第凱餘跟年9102起想他
。量分有都話句每但，飾修不話說，人的技做
