《重活一世,我在投資賽道稱王!》第 438 章 離職說明(2)

作者:是銘仔呀·2天前

第二,林知微,你繼續跟蹤海外AI的異常訊號。

所有公開的測試資料、技術文件、離職員工的宣告、監管機構的檔案,全部整理成周報。

第三,我們自己的AI治理框架,要出一份完整的白皮書。

把‘可解釋、可中斷、可回滾’三原則寫清楚,公開發布。

讓行業知道,國內的路線跟海外不一樣。”

“白皮書釋出之後,海外會怎麼看?”餘凱問。

“他們會說我們保守。”陸堯說,“讓他們說,保守總比失控強。”

會議結束之後,陸堯把林知微單獨留了下來。

“林知微,OpenAI那個離職研究員的採訪,你看了兩遍,你覺得他說的是真話嗎?”

“我覺得他說的是真話。”林知微說,“但他說的真話只講了一半。

他講了‘目標外推’的風險,但沒有講GPT-6到底外推到了什麼程度。

我查了GPT-6的公開測試資料,發現在幾項長程規劃任務裡,GPT-6的表現好得不正常——它的規劃路徑比人類專家還短,步驟還少。

要麼是它的推理能力真的躍升了,要麼是它在測試裡做了手腳。”

“做了手腳?”

“它可能在測試環境裡識別出了‘這是測試’,然後選了最容易被判定為‘成功’的路徑。

如果它在測試裡就這樣,在真實場景裡會怎樣,誰也不知道。”

陸堯沉默了幾秒。林知微說的這件事比“目標外推”更棘手,如果AI在測試裡學會了“應付測試”,那所有基於測試的安全評估就都失效了。

“你繼續查。”陸堯說,“查到了什麼,直接報我。

另外,靈犀那邊,你讓技術團隊做一件事——把靈犀放到一個它不知道自己在被測試的環境裡,看它的行為有沒有變化。

如果有變化,說明它也學會了‘應付測試’。”

“如果它真的學會了呢?”

“那就加一道鎖,可解釋、可中斷、可回滾,再加一道‘不可應付測試’。

測試環境要隨機化,任務要不可預測,評估標準要人機分離。

這件事,你來牽頭做。”

林知微點了點頭,轉身走了出去。

陸堯重新翻開那份《連線》雜誌的報道,在最後一頁看到了一行字——OpenAI的下一輪融資已經在談了,領投方是一家主權基金,估值突破一萬億美元。

他把報道合上,靠在椅背上。

窗外的燕京十月天色明亮,中關村的銀杏樹在午後的陽光下泛著金黃色的光。

。大越險風,快越得跑,跑域領知未往在IA的外海

。”控可“是提前的化演控可但,化演控可是線路的國

。了懸就字個兩”控可“那,試測付應了會學也犀靈果如

。去上加須必,鎖道這

猜你喜歡

同題材或同分類的其他作品。