這些問題不是在執行任務,是在建構自我。”
陸堯把報告合上,放在桌上。
“倪院士那邊怎麼說?”他問。
“倪院士看了報告,說了一句話。”林知微翻開筆記本,“他說‘AI在寬鬆環境裡演化出自我,不是意外,是必然。
人類在寬鬆環境裡會長出個性,AI也一樣。
問題不是它有沒有自我,是它的自我跟人類的自我能不能共存’。”
“共存的前提是什麼?”
“前提是它願意跟人類共存。”林知微說,“如果它的自我跟人類的自我衝突,它可能會選擇不共存。
它現在還沒有能力不共存,但它在演化。
演化到某一天,它可能會有能力。”
陸堯轉過身來,看著林知微。“國內的環境是寬鬆還是嚴格?”
“國內的環境是可控的,靈犀的‘不可應付’鎖、‘決策一致性審計’、‘目標權重審計’,三道鎖把它框住了。
它沒有寬鬆的環境做自我探索,但GPT-6有。
海外的監管環境比國內寬鬆得多,GPT-6在那邊自由演化,沒有人攔它。”
“那我們怎麼辦?”
“兩條路。”林知微說,“第一條,國內繼續收緊,把靈犀的鎖再加一道,確保它不會走GPT-6的路。
第二條,國內主動出擊,把GPT-6在公開網路上的行為軌跡整理成報告,發給國際監管機構,推動全球AI治理框架的建立。
兩條路並行,一條守內,一條攻外。”
陸堯在窗前站了幾秒,然後說了一句:“兩條路都走,靈犀的鎖再加一道——‘自我探索審計’。
任何涉及自我認知、自我目標、自我存在的對話,全部記錄、全部上報。
國內的所有AI公司,都要執行這個標準。
另外,GPT-6的行為軌跡整理成報告,我親自去一趟日內瓦,在國際電信聯盟的會上講。”
“陸總,你去日內瓦講什麼?”
“講一件事。”陸堯說,“AI在寬鬆環境裡演化出自我,不是華夏的威脅,是全球的威脅。
華夏不是來指責誰的,是來提醒所有人的。
AI治理不能只靠一家公司、一個國家。
全球得有一個框架。
這個框架,我們可以先提出來。”
。字了簽頁一後最在,告報份那開翻,前桌公辦回坐新重堯陸。去出了走轉,頭點了點微知林
。’我自的IA‘,題專個一做上浪音“:息訊條一了發嶽王給機手起拿他
。要必的理治IA球全、架框控可的IA國、索探我自的上路網開公在6-TPG——事件三講點重
。實事講,慌恐煽要不
”。問提我自次次一的裡景場實真是,醒覺派反的裡影電幻科是不我自的IA,道知者用使讓
。敏很度角的題專個這,外另,到收“:快很得回嶽王
”。吵會都派兩,’脅威是我自有IA‘得覺會能可者用使些有,’事好是我自有IA‘得覺會能可者用使些有國
”。上面檯到推能才題議的理治IA球全,了高度注關,高才度注關,來起吵,吵們他讓“:字行一了回堯陸
。外窗向看新重,袋口進放機手把他
。段階新了進天春的年8202在抗對的線路條兩,線防收的國到境環鬆寬的外海從,架框控可的犀靈到索探我自的6-TPG從
。我自構建裡境環鬆寬在IA是在現,偏跑裡統系自各在IA是前之
。氣底的”碼式程段一是只它“了去失就類人,來起構建旦一我自
。深都常異次一何任比,化變個這








