翻譯/乂文
生命未來(lái)研究所的一封要求對(duì)人工智能開(kāi)發(fā)進(jìn)行為期六個(gè)月的預(yù)防性暫停的公開(kāi)信已經(jīng)得到了包括埃隆·馬斯克在內(nèi)的數(shù)千位名人的簽名。簽名者擔(dān)心，人工智能的開(kāi)發(fā)者們正在“陷入一場(chǎng)失控的競(jìng)賽”，開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的系統(tǒng)以至于沒(méi)有人，包括開(kāi)發(fā)者們自己，能夠理解、預(yù)測(cè)或控制它們。
是什么導(dǎo)致了某些精英階層爆發(fā)恐慌？控制和管理明顯是問(wèn)題的核心，但誰(shuí)來(lái)當(dāng)監(jiān)管者呢？在提議的半年暫停期間，當(dāng)人類能夠進(jìn)行風(fēng)險(xiǎn)評(píng)估時(shí)，誰(shuí)又來(lái)代表全人類呢？既然中國(guó)、印度和俄羅斯的人工智能團(tuán)體會(huì)繼續(xù)他們的工作（也許是私下進(jìn)行），那么關(guān)于這一問(wèn)題的全球性公開(kāi)辯論顯然是不可能的。
不過(guò)，我們?nèi)匀粦?yīng)該討論一下其中的利害關(guān)系。歷史學(xué)家尤瓦爾·赫拉利（Yuval Harari）在他2015年出版的著作《未來(lái)簡(jiǎn)史》（Homo Deus）中預(yù)測(cè)，人工智能最有可能帶來(lái)的結(jié)果是人類社會(huì)的徹底分裂，這一分裂將遠(yuǎn)比階級(jí)分化更嚴(yán)重。不久以后，生物科技與計(jì)算機(jī)算法將協(xié)力合作制造出“身體、大腦和思想”，從而導(dǎo)致“知道如何設(shè)計(jì)身體與大腦的人”與“不知道的人”之間的差距不斷擴(kuò)大。換言之，“那些搭上進(jìn)步列車的人將獲得創(chuàng)造與毀滅的神力，而那些未能上車的人將面臨滅頂之災(zāi)。”
公開(kāi)信所反映的恐慌源自這樣的一種擔(dān)憂：即使是那些“進(jìn)步之車”上的人也有可能無(wú)法駕馭列車本身。我們當(dāng)前的電子封建主們嚇壞了。然而，他們想要的不是公開(kāi)辯論，而是政府和科技企業(yè)能夠達(dá)成協(xié)議以將權(quán)力牢牢把握在自己手中。
人工智能能力的大規(guī)模擴(kuò)張對(duì)當(dāng)權(quán)者構(gòu)成了嚴(yán)重威脅——包括那些開(kāi)發(fā)、擁有和控制人工智能的人。它預(yù)示著我們所熟知的資本主義范式的終結(jié)，呈現(xiàn)出了一套自我繁殖的人工智能系統(tǒng)的前景，它將越來(lái)越少地需要接受來(lái)自人類代理人的輸入（算法交易活動(dòng)只不過(guò)是朝著這個(gè)方向邁出的第一步）。而我們只能在下列二者中選擇其一：一種新型的共產(chǎn)主義或無(wú)法控制的混亂。
新型的聊天機(jī)器人會(huì)為許多孤獨(dú)的（或者沒(méi)那么孤獨(dú)的）人們提供無(wú)數(shù)個(gè)充斥著關(guān)于電影、書(shū)籍、烹飪或政治的友好對(duì)話的夜晚。套用我自己的一個(gè)舊的比喻，人們得到的將會(huì)是人工智能版本的無(wú)咖啡因咖啡或無(wú)糖汽水：一個(gè)沒(méi)有任何秘密的友鄰，一個(gè)完全為滿足你需求而存在的他者。這里存在著一種戀物式的否定結(jié)構(gòu)：“我非常清楚我不是在和真人說(shuō)話，但這感覺(jué)就像是（和真人說(shuō)話），并且沒(méi)有任何（和真人說(shuō)話所）附帶的風(fēng)險(xiǎn)！”
無(wú)論如何，仔細(xì)研究這封公開(kāi)信就會(huì)發(fā)現(xiàn)，這是又一次試圖阻止一件無(wú)法阻止之事的嘗試。這是一種老的悖論：作為（舊）人類而言，我們無(wú)法參與到后人類時(shí)代的實(shí)踐中去，因此我們必須禁止其發(fā)展。為了使我們就這些技術(shù)明確方向，我們應(yīng)該重提列寧的經(jīng)典問(wèn)題：誰(shuí)擁有做什么的自由？在何種意義下我們?cè)亲杂傻?？難道我們實(shí)際上遭受的支配不是比我們所意識(shí)到的多得多嗎？與其抱怨我們的自由與尊嚴(yán)在未來(lái)會(huì)受到威脅，也許我們首先應(yīng)該考察自由在今天的含義。除非我們這么做，否則我們只會(huì)像癔癥患者一樣行事，在法國(guó)精神分析家雅克·拉康看來(lái)，其（癔癥患者）急于尋求一位主人，但前提是這位主人在我們的支配之下。
未來(lái)學(xué)家雷·庫(kù)茲韋爾（Ray Kurzweil）預(yù)測(cè)，由于科技進(jìn)步指數(shù)級(jí)增長(zhǎng)的特點(diǎn)，我們很快就會(huì)面對(duì)“靈性”機(jī)器，其不僅能夠表現(xiàn)出自我意識(shí)的各種跡象，而且還擁有遠(yuǎn)超于人類的智慧。但是，我們不應(yīng)該把這種“后人類”立場(chǎng)同現(xiàn)代人對(duì)實(shí)現(xiàn)科技對(duì)自然的全面統(tǒng)治的典型關(guān)注混為一談。相反，我們正在見(jiàn)證的是這一過(guò)程的辯證顛倒。
今天的“后人類”科學(xué)不再是為了統(tǒng)治，他們把“驚喜”作為信條：“黑盒”人工智能模型會(huì)為自身謀取何種偶然的、意料之外的新奇特質(zhì)？沒(méi)人知道，而這正是整個(gè)事業(yè)的快感，或者說(shuō)是平庸所在。
因此，在本世紀(jì)早些時(shí)候，法國(guó)哲學(xué)家兼工程師讓-皮埃爾·迪皮伊（Jean-Pierre Dupuy）在新的機(jī)器人技術(shù)、遺傳學(xué)、納米技術(shù)、人工生命和人工智能中發(fā)現(xiàn)了一種對(duì)科技所帶來(lái)的傳統(tǒng)人類中心主義傲慢的奇異反轉(zhuǎn)：
“我們?cè)撊绾谓忉尶茖W(xué)成為了一項(xiàng)如此危險(xiǎn)的活動(dòng)，以至于，根據(jù)一些頂尖科學(xué)家的說(shuō)法，科學(xué)如今構(gòu)成了對(duì)人類生存的主要威脅？一些哲學(xué)家對(duì)此的回應(yīng)則是，笛卡爾關(guān)于‘成為自然的主宰與所有者’的夢(mèng)想已經(jīng)過(guò)時(shí)了，而我們應(yīng)該迫切地回到‘統(tǒng)治的統(tǒng)治’上去。他們什么都不懂，他們沒(méi)有看到通過(guò)所有學(xué)科的“融合”，科技正在以我們的視角進(jìn)行自我剖析，而其目標(biāo)恰恰正是非統(tǒng)治性的。未來(lái)的工程師不會(huì)因?yàn)樽约旱氖韬龌驘o(wú)知而被迫成為法師學(xué)徒，而是完全取決于個(gè)人選擇。”
人類正在創(chuàng)造自己的上帝或魔鬼。盡管結(jié)果無(wú)法預(yù)測(cè)，但是有一件事是肯定的。如果“后人類”事物作為一種集體性事實(shí)產(chǎn)生，那么我們的世界觀將全部失去三項(xiàng)典型的、重疊的主題：人類、自然和神性。我們的人類身份只能建立在牢靠的自然背景之上，但如果生活變成了某種可以完全被技術(shù)所操縱的事物，那么它就會(huì)失去其“自然的”屬性。一種完全受控的存在沒(méi)有任何意義，更不用說(shuō)偶然性與驚奇了。
當(dāng)然，任何神圣感也是如此。人類對(duì)“神”的體驗(yàn)只有從人類有限和可朽的立場(chǎng)出發(fā)才有意義。一旦我們實(shí)現(xiàn)“人神合一”（homo deus）并且創(chuàng)造出在舊人類立場(chǎng)看來(lái)似乎是“超自然”的特性，我們所熟知的“眾神”將會(huì)消失。問(wèn)題是，如果還有（關(guān)于神的觀念）存在的話，那新神會(huì)是誰(shuí)？我們會(huì)崇拜自己創(chuàng)造的人工智能嗎？
我們完全有理由擔(dān)心，科技諾斯底主義版的后人類世界是一種遮蓋了我們生活中的深淵的意識(shí)形態(tài)幻想。毋庸置疑，要確保人類不會(huì)在不遙遠(yuǎn)的未來(lái)變得無(wú)足輕重，他們的生活也不會(huì)變得毫無(wú)意義，這需要的不僅僅是六個(gè)月的停頓。
「 支持烏有之鄉(xiāng)！」
烏有之鄉(xiāng) WYZXWK.COM
您的打賞將用于網(wǎng)站日常運(yùn)行與維護(hù)。
幫助我們辦好網(wǎng)站，宣傳紅色文化！
歡迎掃描下方二維碼，訂閱烏有之鄉(xiāng)網(wǎng)刊微信公眾號(hào)
