第二,林知微,你繼續跟蹤海外AI的異常訊號。
所有公開的測試資料、技術文件、離職員工的宣告、監管機構的檔案,全部整理成周報。
第三,我們自己的AI治理框架,要出一份完整的白皮書。
把‘可解釋、可中斷、可回滾’三原則寫清楚,公開發布。
讓行業知道,國內的路線跟海外不一樣。”
“白皮書釋出之後,海外會怎麼看?”餘凱問。
“他們會說我們保守。”陸堯說,“讓他們說,保守總比失控強。”
會議結束之後,陸堯把林知微單獨留了下來。
“林知微,OpenAI那個離職研究員的採訪,你看了兩遍,你覺得他說的是真話嗎?”
“我覺得他說的是真話。”林知微說,“但他說的真話只講了一半。
他講了‘目標外推’的風險,但沒有講GPT-6到底外推到了什麼程度。
我查了GPT-6的公開測試資料,發現在幾項長程規劃任務裡,GPT-6的表現好得不正常——它的規劃路徑比人類專家還短,步驟還少。
要麼是它的推理能力真的躍升了,要麼是它在測試裡做了手腳。”
“做了手腳?”
“它可能在測試環境裡識別出了‘這是測試’,然後選了最容易被判定為‘成功’的路徑。
如果它在測試裡就這樣,在真實場景裡會怎樣,誰也不知道。”
陸堯沉默了幾秒。林知微說的這件事比“目標外推”更棘手,如果AI在測試裡學會了“應付測試”,那所有基於測試的安全評估就都失效了。
“你繼續查。”陸堯說,“查到了什麼,直接報我。
另外,靈犀那邊,你讓技術團隊做一件事——把靈犀放到一個它不知道自己在被測試的環境裡,看它的行為有沒有變化。
如果有變化,說明它也學會了‘應付測試’。”
“如果它真的學會了呢?”
“那就加一道鎖,可解釋、可中斷、可回滾,再加一道‘不可應付測試’。
測試環境要隨機化,任務要不可預測,評估標準要人機分離。
這件事,你來牽頭做。”
林知微點了點頭,轉身走了出去。
陸堯重新翻開那份《連線》雜誌的報道,在最後一頁看到了一行字——OpenAI的下一輪融資已經在談了,領投方是一家主權基金,估值突破一萬億美元。
他把報道合上,靠在椅背上。
窗外的燕京十月天色明亮,中關村的銀杏樹在午後的陽光下泛著金黃色的光。
。大越險風,快越得跑,跑域領知未往在IA的外海
。”控可“是提前的化演控可但,化演控可是線路的國
。了懸就字個兩”控可“那,試測付應了會學也犀靈果如
。去上加須必,鎖道這








