端雲切換的觸發條件是對話輪次和任務複雜度,當用戶連續提問超過三輪或者任務複雜度超過端側的處理上限時,自動切換到雲端。
“切換的觸發條件怎麼定?”陸堯問。
“三種情況。”劉遠說,“第一,對話輪次超過三輪。
第二,任務複雜度超過端側模型的處理上限,比如長文生成、複雜邏輯推理。
第三,使用者主動請求雲端處理。”
陸堯翻開那份多輪對話測試資料集,看了幾頁。
百度在中文語境下的語義理解確實是三家裡面最強的,五輪對話的上下文依賴關係標註得很清楚,模型在長對話中的記憶保持能力也優於另外兩家。
“劉總,如果聯想靈犀的端雲協同用百度智慧雲做主方案,你們能提供什麼?”
“三樣東西。”劉遠說,“第一,百度的文心大模型會為聯想靈犀做多輪對話的深度最佳化,包括上下文管理、語義理解、意圖識別。
第二,百度的搜尋資料會為聯想靈犀提供即時的知識更新,確保對話內容不侷限於訓練資料。
第三,百度智慧雲的資料中心會為聯想靈犀預留專屬的多輪對話推理叢集。”
“代價呢?”
“百度智慧雲希望聯想靈犀的端雲協同使用百度的多輪對話介面規範。”劉遠說,“同時,百度希望聯想在智慧助手和多輪對話場景下優先推薦百度智慧雲的方案。”
陸堯想了幾秒。
百度的多輪對話準確率最高,如果聯想靈犀的核心賣點是對話體驗,百度是最合適的。
但百度的端雲切換延遲比火山引擎高了五毫秒,加密方案不如阿里雲成熟。
三家各有優勢,選誰做主方案,要看聯想靈犀的核心定位。
“劉總,合同裡要加一條。”陸堯說,“聯想靈犀的端雲協同資料,百度不得保留、不得用於模型訓練、不得向第三方共享。
這一條要寫進主合同,另外,年度審計由第三方機構執行。”
劉遠點了點頭:“可以。”
三家都談完了。
陸堯坐在辦公室裡,面前攤著三份技術方案。
火山引擎延遲最低,四十二毫秒;阿里雲加密最強,國密標準全流程,百度多輪對話最準,百分之九十四的準確率。
三家各有優勢,但聯想靈犀只能選一家做主方案,另一家做備選。
他拿起手機給倪光南發了一條訊息:“三家都談完了。
明天上午開選型會,你、餘凱、AI研究院的負責人一起參加。
把三家的技術評分彙總一下,按使用者體驗、加密強度、端雲延遲、多輪對話準確率四個維度打分。”
倪光南迴了一個字:“好。”
。上背椅在靠,上桌在放機手把堯陸
。廓的糊模片一連中霧薄的後午在群樓的村關中,沉灰天月二十京北的外窗
。勢優技的自各著帶都份一每,上桌在攤案方技的商務服雲家三
。麼什是位定心核的犀靈想聯看要,案方主做誰選








