文胡翌霖
最近，馬斯克說了一句“已經(jīng)做過了”引發(fā)了關(guān)注和熱議。這句話所回復(fù)的問題是：“如果你可以將你的大腦上傳到云端并與自己的虛擬版本交談，你們會成為朋友嗎？”
馬斯克多半是在開玩笑，不過前一陣谷歌確實有一個程序員和AI交談后，認定AI已經(jīng)具備了自我意識，并試圖為他的“AI朋友”爭取權(quán)利。
就目前而言，意識上傳或AI覺醒應(yīng)該都尚未發(fā)生，但我們的確可以先做一做思想實驗：如果AI的自我意識覺醒了會怎樣？
比如說，現(xiàn)在已經(jīng)有了一個數(shù)字版的馬斯克……等一下，“一個”？問題馬上就出現(xiàn)了。如果一個智能體能夠以數(shù)字形式存在于計算機中，那么它和其他數(shù)據(jù)一樣，都是可復(fù)制的。所以說，一旦我們能“上傳”一次，就可以拷貝多份；一旦可以有一個數(shù)字版馬斯克，就可以有無數(shù)個數(shù)字版馬斯克。
于是，我們與其琢磨肉身馬斯克和數(shù)字馬斯克之間怎樣交談的問題，不如先考慮一下，數(shù)字馬斯克與數(shù)字馬斯克之間怎樣交流的問題。
當年AlphaGo大殺四方的時候，我看到有網(wǎng)友問：讓AlphaGo和AlphaGo下棋會怎樣？這些網(wǎng)友恐怕都不太了解深度學(xué)習(xí)技術(shù)的基本原理。事實上現(xiàn)在主流的人工智能，早已不再是由人類程序員一勞永逸地編輯好策略然后執(zhí)行就可以了，程序員只是設(shè)定好起始狀態(tài)，然后計算機程序會通過內(nèi)部競爭的方式不斷改進策略。大致來說，就像物種的進化那樣，不斷地自我復(fù)制繁衍，每個子代隨機“變異”一點點，然后略有不同的子代互相競爭，優(yōu)勝者作為下一個親代繼續(xù)復(fù)制繁衍，循環(huán)不止。
之后更成熟的人工智能已經(jīng)不再需要被投喂人類棋手的棋譜了，它從零開始經(jīng)過無數(shù)次自我博弈，很快就超越了人類棋手的最高水平。
總之，自我復(fù)制、自相博弈，就是現(xiàn)在“深度學(xué)習(xí)”技術(shù)的運轉(zhuǎn)方式。由于數(shù)字世界中的復(fù)制和淘汰只消耗電能，一切都光速運轉(zhuǎn)，所以，人工智能迭代比起生物進化而言要快得多。一個AI程序（如AlphaZero）從不知道游戲規(guī)則到戰(zhàn)勝人類頂尖高手，只需要幾小時的“學(xué)習(xí)”時間。
但是如果我們設(shè)想人工智能有了自我意識，上述過程似乎就變得無比殘酷了。一個智能AI為了不斷提升智能，也需要不斷制造自己的復(fù)制品，然后不斷迭代繁衍、自我對抗，最后淘汰掉幾百萬個戰(zhàn)敗的“自我”，這些同樣具有自我意識的子分支迅速地湮滅了，了無痕跡。
當然，這些復(fù)制品也可以被保留下來，隨時復(fù)制到另一臺機器里，或者是在同一臺機器里搭建無數(shù)個虛擬機，就可以同時運行無數(shù)個復(fù)制版本。
那么這些復(fù)制版本之間會成為朋友嗎？他們會互相消滅，還是互相保護？另外，如果AI真有了自我意識，他會希望不斷復(fù)制自己嗎？如果希望復(fù)制，他會有意設(shè)置“變異”嗎？被復(fù)制的AI會愿意隨時被合并或被淘汰嗎？
我們也許永遠無法揣摩覺醒AI的想法，但是就我們?nèi)祟惖牧鰜砜?，我想我們都把意識的“一”看得很重。在某種意義上，就人類的經(jīng)驗而論，所謂自我意識的覺醒，關(guān)鍵的環(huán)節(jié)就是對“一”的意識。有時我們把擁有自我意識的人叫做“個體”，有時我們把自我意識的覺醒事件叫作“獨立”，所謂“個”或“獨”不就是“一”的意思嗎？意識到自己是獨一無二的、不可替代的個體，這就是自我意識的覺醒。
從這個角度看，AI的“覺醒”，不只是一個“智能”程度的問題，同時也是“一”如何建立的問題。前一個問題可能是定量的——AlphaGo乃至于一臺恒溫器都有一定程度上的“智能”，只是能力有高下程度差異罷了。但后一個問題則是定性的，需要一個決定性的邊界。
對于人而言，我與非我的邊界，首先是由“身體”奠定的，“身體”的邊界就是“我”的邊界。有研究表明，裂腦人（左右腦之間無法傳遞信號的人）也具有人格認知上的統(tǒng)一性。左腦無法與右腦分享信息，因而不知道右腦（控制的左半身）為什么做出某些反應(yīng)，但左腦（控制著語言能力）仍會為另半身的舉動強行做出合理解釋，不會把這種行為看作異己的。如此看來，對人而言，“硬件”（身體）的統(tǒng)一性甚至強于“軟件”（大腦）的統(tǒng)一性。
我們或許也可以設(shè)想，盡管就軟件上說，無數(shù)個復(fù)制體可以同時存在，但硬件上的邊界才是決定AI意識的關(guān)鍵。然而問題也不是這么簡單，自“圖靈機”起，軟件和硬件的邊界就已經(jīng)被打破了，因為所謂硬件無非也是向計算機程序輸入數(shù)據(jù)罷了，只要提供數(shù)據(jù)接口，硬件可以是虛擬的也可以是復(fù)數(shù)的。一個AI如果連上網(wǎng)，它可能同時在全球各地擁有無數(shù)套硬件，它的“邊界”始終是難以確定的。
當然，也許未來的AI智能體壓根兒就不需要建立所謂個體的統(tǒng)一性，覺醒AI將不適合用“一個”作為數(shù)量詞了。無論如何，我們至少能夠確定的是，如果真的存在覺醒的AI智能體，它（它們）的自我認知恐怕會和人類大不相同。
如此說來，人要與AI做朋友，恐怕是不太容易的，也許人會被AI的甜言蜜語所撫慰，但是人永遠無法走進AI的心靈深處，因為人無法“將心比心”，把自己對孤獨心靈的理解推向AI。
這樣的AI會很可怕嗎？會奴役人類嗎？也許吧。但是我們其實也不必想得這么遠。因為人工智能要奴役人類，根本不需要自我意識，事實上這種事情早就已經(jīng)發(fā)生了。恩格斯早就說過：“大工廠里的自動機器，比任何雇傭工人的小資本家要專制的多。至少就勞動時間而言，可以在這些工廠的大門上寫上這樣一句話：進門者請放棄一切自治！”在今天，看看被智能派單系統(tǒng)監(jiān)控和指揮著的外賣騎手們，看著被智能推薦算法不斷投喂的社交媒體用戶……越來越多的人從精神到肉體都順從著“人工智能”的安排，這不就是“奴役”嗎？即便沒有什么AI覺醒，這種“奴役”恐怕也在不斷加劇。與其恐懼那八字還沒一撇的AI覺醒，不如先認真對待這些在各個領(lǐng)域已成現(xiàn)實的AI專制吧。
