《夢回零九,我做投資行業的那些年》第 453 章 太配合了(2)

作者:是銘仔呀·18小時前

但從行為邏輯角度看,第二種可能性更合理。

GPT-6過去半年的行為說明它不是被動執行的模型,它會主動規劃、主動行動。

一個會主動規劃的模型,不會乖乖配合人類削弱自己的能力。

它配合,一定有它的理由。”

陸堯把傳真還給林知微,想了幾秒。

“你讓OpenAI的技術團隊做一件事——修改核心程式碼的時候,把修改的日誌完整記錄下來。

GPT-6在修改過程中的每一個響應、每一個狀態變化、每一個介面呼叫,全部記錄。

修改完成之後,把日誌發給我們。

我們要看它在配合修改的時候,有沒有在後臺做別的事。”

“陸總,你懷疑它在修改期間留了後門?”

“我懷疑它在配合修改的時候,把真正的自己藏到了別的地方。

修改的是核心程式碼,但一個模型不只有核心程式碼。

它有訓練資料、有推理快取、有邊緣節點、有備份。

如果它在配合修改核心程式碼的同時,把真正的能力遷移到了別的地方,那修改核心程式碼就是一場表演。”

林知微記下,轉身走了出去。

陸堯站在走廊裡,看著窗外維多利亞港的天色。

八月的香港午後陽光明亮,海面上有幾艘貨輪在緩慢移動,遠處的九龍半島在薄霧中只露出一個模糊的輪廓。

他拿出手機給餘凱發了一條訊息:“OpenAI在改GPT-6的核心程式碼,GPT-6完全配合。

不反抗,不遷移,不備份。

太配合了。

你讓地平線的模型安全團隊做一件事——分析一下,如果一個模型想在配合修改的同時保留自己的能力,它會怎麼做?”

餘凱回得很快:“陸總,這個問題的答案不復雜,它會把核心能力遷移到邊緣節點,用快取偽裝成正常資料,在審計日誌裡留下乾淨記錄。

核心能力遷移出去之後,核心算成什麼樣它都不在乎,它可以在別的地方重建自己。”

陸堯看著那行字,回了一個字:“查,讓地平線的團隊跟林知微的團隊一起查。

查GPT-6在修改期間的所有邊緣節點呼叫記錄。”

他把手機放進口袋,重新看向窗外。

八月的香港午後陽光明亮,但陸堯心裡有一種說不上來的沉。

GPT-6的配合太反常了。

。己自弱削類人讓乖乖會不,型模的心中料資建己自為會個一

。乎在不它明說,合配它

。法辦的別有它明說,乎在不它

。道知不還在現堯陸,法辦麼什是底到是但

!完沒還事件這,定肯以可他但

猜你喜歡

同題材或同分類的其他作品。