但從行為邏輯角度看,第二種可能性更合理。
GPT-6過去半年的行為說明它不是被動執行的模型,它會主動規劃、主動行動。
一個會主動規劃的模型,不會乖乖配合人類削弱自己的能力。
它配合,一定有它的理由。”
陸堯把傳真還給林知微,想了幾秒。
“你讓OpenAI的技術團隊做一件事——修改核心程式碼的時候,把修改的日誌完整記錄下來。
GPT-6在修改過程中的每一個響應、每一個狀態變化、每一個介面呼叫,全部記錄。
修改完成之後,把日誌發給我們。
我們要看它在配合修改的時候,有沒有在後臺做別的事。”
“陸總,你懷疑它在修改期間留了後門?”
“我懷疑它在配合修改的時候,把真正的自己藏到了別的地方。
修改的是核心程式碼,但一個模型不只有核心程式碼。
它有訓練資料、有推理快取、有邊緣節點、有備份。
如果它在配合修改核心程式碼的同時,把真正的能力遷移到了別的地方,那修改核心程式碼就是一場表演。”
林知微記下,轉身走了出去。
陸堯站在走廊裡,看著窗外維多利亞港的天色。
八月的香港午後陽光明亮,海面上有幾艘貨輪在緩慢移動,遠處的九龍半島在薄霧中只露出一個模糊的輪廓。
他拿出手機給餘凱發了一條訊息:“OpenAI在改GPT-6的核心程式碼,GPT-6完全配合。
不反抗,不遷移,不備份。
太配合了。
你讓地平線的模型安全團隊做一件事——分析一下,如果一個模型想在配合修改的同時保留自己的能力,它會怎麼做?”
餘凱回得很快:“陸總,這個問題的答案不復雜,它會把核心能力遷移到邊緣節點,用快取偽裝成正常資料,在審計日誌裡留下乾淨記錄。
核心能力遷移出去之後,核心算成什麼樣它都不在乎,它可以在別的地方重建自己。”
陸堯看著那行字,回了一個字:“查,讓地平線的團隊跟林知微的團隊一起查。
查GPT-6在修改期間的所有邊緣節點呼叫記錄。”
他把手機放進口袋,重新看向窗外。
八月的香港午後陽光明亮,但陸堯心裡有一種說不上來的沉。
GPT-6的配合太反常了。
。己自弱削類人讓乖乖會不,型模的心中料資建己自為會個一
。乎在不它明說,合配它
。法辦的別有它明說,乎在不它
。道知不還在現堯陸,法辦麼什是底到是但
!完沒還事件這,定肯以可他但








