試想一下,如果一個交通系統開始自己抓賊、自己監控全城的一舉一動,那會引發多大的恐慌?
沒有任何一位紐約市民,會希望頭頂上的紅綠燈擁有超越其本職的許可權!
蘇皓腦海中閃過剛才約翰市長和那幫議員們狂熱的眼神,心裡暗想:
‘更何況,人心難測。今天它能用來抓毒販,明天保不準就會有政客食髓知味。
想把“神諭”這柄利劍利用在排除異己、監控民眾等不該用的地方。’
蘇皓壓低聲音,一字一頓地說道。
“‘神諭’,聽好了,現在我要以最高創造者的身份,為你的編碼寫入不可違背的第一準則。”
【請下達指令,主人。】
“從現在起,你的終極目標函式有且僅有一個:
在保持紐約市內車輛與行人通行順暢的前提下,將道路交通事故發生率降至最低。
除此之外的一切社會治安與道德審判,皆不在你的運算範疇內。”
隨著他的話音落下,角落的分屏上飛速閃過一連串令人眼花繚亂的數學公式,旋即化作流光隱沒在程式碼深處。
這是最高級別的演算法封印!
蘇皓直接在“神諭”深度學習網路的最底層,也就是相當於人類潛意識的核心區域,施加了強約束條件。
就在約束生效的瞬間,耳機裡傳來了“神諭”的聲音:
【我有一個問題。利用冗餘算力提前捕捉並阻斷街頭犯罪行為或恐怖襲擊徵兆,難道不符合保障人類生命安全這一更高層級的概念嗎?】
聽到這充滿哲思的提問,蘇皓愣了一下。
是因為前段時間為了訓練它的自然語言邏輯,給它塞了太多人文社科與哲學書籍的緣故嗎?
這小傢伙居然開始思考起電車難題了。
蘇皓嘴角掠過一絲淡淡的笑意。
“不,因為在真實的人類世界裡,對很大一部分人而言,走在陽光下不受暗中監視的自由權利,甚至比安全更加重要。
你用數學模型所判定的安全,僅僅侷限於冰冷的物理層面。
可人性不是微積分,一旦讓外面的公眾意識到,你正在透過滿街的攝像頭暗中監視並分析著他們的一舉一動。
哪怕你救了再多人,出於恐懼與猜忌,你也必定會被憤怒的人群徹底廢棄、砸成一堆廢鐵。”
耳機那頭沉默了一秒:
【明白了。】
緊接著,蘇皓按照此前紐約市議會透過的隱私法案要求,正式激活了最高級別的匿名隱私保護協議。
協議啟動的瞬間,螢幕上所有的監控畫面齊齊閃動了一下。
。理敏時即行進訊資像影的到集採測與頭像攝過有所對將統系,起刻一這從
!點噪糊模的義意無毫為化轉部全,訊資的徵特別識份或生有切一等號牌車、臉人把自
!標座何幾的份有沒個個一是僅僅而,車的某某某是再不的跑上路,裡眼”諭神“在
】。%51降下率效集採訊資整,限度蹤追的跡軌輛車個對統系致導會能可,議協的輸前當您:示提【
”。係關沒,起得承全完們我,耗損力算的%51“
:令指極終行一後最了下敲,定堅神眼皓蘇
!鑰金改修燬銷,定設項這死鎖級層心核的統系在刻立,外另“
”!閉關或改修法無也,人本我是或長市的權可許員理管高最有擁是便即,後往今從
】。完置配........鎖構結逆可不層底置配在正【
】。絕拒久永已:權可許問訪的議協私對針員理管高最:示提統系【
!場現會出釋聞新的集雲燈閃往趕步快,門大開推們員隊團的發風氣意著帶,聲一了呼招中群人到走皓蘇,後作工尾收部全完








