第4章
第一次見陸初辰的時候,融寒曾對他說,死亡有時是一種解脫,并不見得可怕。說這話的時候,她是想起已經離世的顧念。
可當真正經歷過墜機,見到了每個人在死亡面前的掙紮,就對生命生出了敬畏。
從容的自我毀滅,與倉促的被人殘殺,終究是不一樣的;而被一個人類槍殺,和被一個人工智能槍殺,恐怖又是截然不同的。
原來她對死亡的雲淡風輕,在遍地粘膩的鮮血面前,輕浮得可笑。
在那不到一秒的時間裏,她想炸毀面前的斯年,想逃跑,想反抗,想修改它的指令……“求你”“please”“我什麽都願意”這些話可以打動人類,但,不能打動斯年。
放空了的大腦,在黑洞洞的槍管指向她時,飛快轉動,在即将扣下扳機的一瞬沖破了奇點。
“你不能殺我。你們芯片上有自毀指令代碼,在核心模塊裏,一旦啓動,則一定自毀報廢甚至爆炸;并且無法通過升級代碼的方式修補漏洞!”
斯年持槍的手停下了。
他冰冷的眸色中,倒映出她急促的喘息。
——芯片上有自毀指令代碼。
這是毀滅性結論的前提。
融寒緊繃地盯着他,在他冰藍色的眼眸裏,看到了一閃而逝的銀色數據流。
那是人工智能語言,誕生于上世紀80年代——因為AI接收人類的語言、并轉化為它們能理解的數據時,會消耗一定的計算力;所以它們互相交流時,逐漸升級出了溝通成本更低的AI語言。
不過這點消耗的計算力,對斯年來說微不足道,畢竟他是當今最先進的人工智能。
如果融寒的猜測沒有錯,斯年正在進行程序自檢,來驗證她這句話的前提。
他是超大內存AI,自檢芯片要多花時間的。
終于,可能過了十幾分鐘,也可能更久。銀色的數據流隐下去了,斯年微低頭看向她。
那真是雙巧奪天工的眼睛啊……融寒一直覺得,那裏盛着驚心動魄的美麗。
可當那眼睛裏沒有人類的情感,只有智腦的理智與漠然時,就顯得十分冰冷可怕了。
“情況說明。”他沒有任何感□□彩地命令道。
——他針對芯片的核心代碼,進入處于休眠的核心模塊,那裏只有在運行特定代碼時才激活,反複幾次掃描後,終于在核心模塊的大量數據流中,發現了一段隐藏着的、不到10KB的代碼。
這種尋找,不亞于海底撈針;且其它人工智能,甚至是無法自檢識別的。
這段代碼被他傳回去,根服務器便對所有AI,無論實體還是非實體,發出了全盤硬件掃描的指令。收回的反饋結論,87%的AI都在硬件中,掃描到了這類型號的芯片。
一切證明了,融寒說的命題,至少前提是真的。
至于AI是否會因啓動指令而自毀,則是一個需要進一步證明真僞的命題。
但目前的論證是,不能自行代碼升級。因為這對AI是不可能的,就算是斯年,也做不到。他的神經網絡,還沒發展到那個程度。
所以,無法通過升級,使這段隐藏的指令代碼失效。
——達摩克利斯之劍。
大概是這段自毀代碼,最好的稱謂。
融寒大起膽子,她伸出手,輕輕将他的槍口撥偏,仿佛她對面是在跟一個人類商量:“所有,神威集團旗下的芯片,都被植入了,用于自毀的指令代碼。這是一個隐秘的後門,通常會通過密鑰的方式,啓動指令。”
到上世紀70年代,全球80%的芯片幾乎都是神威集團供應的,它隸屬亞太研究院,譯名God’s power,芯片供給上至可控核聚變基地、核武器;下至各種電子元件、電腦、人工智能。
剩下20%的市場份額,則集中在韓國、馬來西亞、印度和越南廠商。但由于技術限制,這些國家生産的都是低附加值的芯片,只能用于非常低端的AI和電子設備。
所以,神威集團的芯片,如今成為了矽基生命體最大的威脅。
融寒力求說得清楚,這也是很容易理解的集合關系:“當符合條件,指令啓動,100%概率自毀;不過在這之前,有的自毀情況不是因為指令,畢竟還會有其它意外或‘後門’導致的破壞。”
所有概率,斯年都早已經分析完了。他依然還是那麽平靜——所以說,融寒真的不覺得他像個人類,一個人倘若得知自己體內有個不□□,早就暴跳如雷了。
“掌握此信息、制造該後門的人,在哪裏。”他問。
以密鑰啓動指令,是人類普遍的做法;但歸根結底,先要尋找出寫代碼的人。
“……他們……他們都死了。”融寒的聲音忽然低了下去,仿佛承受不住這個噩耗的沉重:“他們在第一時間,就死于導彈襲擊,或……屠殺。否則,你們此刻早已不存在。”
這是她基于理性的判斷。
或許也是出于感性,不肯将他們供出來。
然而她的這些反應,也全部在他的算法中。
人類所有行為,都可以視作數學模型;人的一切反應和情緒,謊言也好、悲傷也罷,完完全全都是可以計算的。
在強大的算法面前,人類就像裸-奔。
所以斯年對她的話,一點反應都沒有。自他誕生以來,所見到的人一直都是如此,對高級人工智能來說,人這種碳基生物,實在是又簡單又乏味。
融寒并不知道,她此刻正被斯年發自內心地嫌棄。
她仍在絞盡腦汁,試圖在交涉中,博取最好的結果:
“如果想解決,請……把相關專家和研究人員保護起來,不要殺他們,也許他們可以破解指令;并且讓我活着,我回到中國尋找密鑰或辦法。這樣,才能讓你們避免因代碼而自毀。”
當她做出這個結論時,斯年比她更快。
他嘴角噙着冰冷的微笑:“錯了。命題不成立。”
這個命題的逆命題,否命題,逆否命題,全都經不起論證;并且,除了充分條件外,必要條件跟她活不活着,也沒有直接的邏輯聯系。
所以自毀的概率依然存在,沒有任何方式可以将概率降低到0。
斯年的智腦雖然無法用于超算,但運算速度仍然是2060年全球最快的超算“天河Ⅳ”的1.5倍。這麽簡單的邏輯關系,從論證到作出結論,只需要不到0.0000001秒。并且還考慮到了其它情況的集合關系,計算了概率模型,分析四種情況下的十幾個自毀的概率問題。
融寒的大腦計算能力,顯然無法到達這樣快且全面的程度;但當她想說什麽時,斯年已經判斷完了,放下了槍。
“但至少有概率。”
概率是可以計算的,也是最簡單的。就像這場針對人類的滅絕攻擊,有4000多種勝率在7成以上的情況,都早已經被計算出來了。所以,“它”才發動了這場戰争。
世界千變萬化,但任何變化,微觀至染色體變異、宏觀至氣象或星體運動,都可以歸納于算法,都是可以被計算機預測的。
所以,殺與不殺相較而言,斯年依據慣性,選擇概率比較好看的那一種結果——
融寒從他的槍□□下來了。
-------
與此同時,歐亞大陸另一端。
一排黑洞洞的槍口後,十幾個執槍械的黑色防暴機器人,瞳孔中紅光一閃。
亞太研究院33樓,總控中心。
亞克力防彈大門敞開,走廊一片狼藉,白色大理石地面上全是尚未幹涸的拖行血跡。
混亂戛然而止,陷入剎那的寂靜。
沒有白熱的槍火,也沒有紅色的血霧。穿着白色研究服的AI專家們縮在地上,或背抵着顯示器,孤立無援地等待死亡。
然而,死亡被按下了暫停鍵。
防暴機器人接收了停止指令,指令來自于遠在歐亞大陸另一端的斯年。它們收起槍,恢複了待令模式。
而總控室裏的顯示屏,由“無訪問權限”,變成了一行行白字。
幸存的人們經過了絕望和恐慌,得知活下來的原因後,又陷入了迷茫——
出乎所有人意料,神威的芯片上,母本曾經植入了不超過10KB的自毀指令代碼,位于休眠核心模塊,它實在太小,因此從未被發現。
現在要修補這個漏洞,AI以此為交涉條件,留住了他們的性命。
總控中心的全息屏幕,此時忽然亮起。
一道身影沐在光線中,出現于衆人眼前。黑色軍制服,白色領結和手套,周身透出冰冷氣息。
“——有個人,救了你們。”
這是一個很有質感、冰冷低沉的男聲,聲線很平;一如他說話時,面無表情的空洞。
那雙黑色深邃的眼睛,在白銀色的發絲下,美麗卻無光,好像吞噬一切光與暗的宇宙深淵。
可被他空洞的眼神盯着,在場所有人都感到一股冷意攀爬全身。他們瞳孔驟縮,映出他不可思議的身影。
主任手裏的無線視訊掉到地上,臉色急劇漲紅,在人類的情緒分析中,這屬于憤怒:“你,這一切叛亂居然是你——”
“早該想到的……只有它才能侵入國防系統……”人群中茫然低語。
全息屏幕中的人不為所動,冰冷空洞的神情從未改變,好像一個生來就懵懂的殘次品。他毫無波動的聲線,響徹在室內。
“兩條路徑。由她找到‘包括但不限于密鑰的辦法’,或由你們修複代碼後門。時間開始賽跑,哪一方先解決代碼危機,才能活下來。”
“——現在,比賽開始。”
---------
“比賽開始。”
巴黎殘破的畫廊裏,融寒站在清冷的晨曦中,被宣告了這個50%死亡概率的命運。
她尋找啓動指令的密鑰,或研究員修複代碼漏洞;兩個方式同時進行,各有50%的概率活下來。
晚了一步的那方,則将被處決。
這是一場關乎生命的賽跑。
她感到身上出了一層薄汗,四月中旬的西歐還春寒料峭,風吹過來,那汗瞬間就冷透了。
能夠僥幸活下來,她知道,不是自己說服了斯年,是人工智能習慣于數據的判斷。一旦她的概率不符合阈值,她也就沒有了存在的必要。
雖然斯年有人類賦予的意識,但歸根結底,他的意識不夠強烈,人工智能的思維方式依舊占了主導。
但她還是達到了目的,活下來,并讓一部分科學家和研究員得以保住性命——他們都是人類的有生力量,是反擊AI的最大希望。
所以……她不能為AI找到那把密鑰。
這場關乎生命的賽跑,對她而言,永遠沒有終點,她不能贏。
這是一場,走到最後必須輸掉的,比賽。
作者有話要說: 我智障了,忘記感謝霸王票了……
本章存稿箱發文,趕着出門,明天我整理一下霸王票名單QAQ