原編者按
文藝批評今日推送齊澤克討論ChatGPT的文章《人工智障》（Artificial Idiocy）。這篇譯文由GPT-4翻譯，華東師范大學遠讀批評中心校對。在篇首提及以ChatGPT為代表的聊天機器人最受關(guān)注的爭議點后，齊澤克迅速把話題引向一個在他看來更為核心的問題，即思想與語言關(guān)系的問題。在齊澤克看來，AI只能字面上理解人類語言，但卻無法模仿人類語言中的多義性、自反性、含混性。需要指出的是，齊澤克對于ChatGPT的認知存在明顯錯誤。ChatGPT的文本生成機制并非對人類既有語言、話語的簡單模仿、復制。相較于以往的大型語言模型，GPT-3（及之后的版本）之所以展現(xiàn)出能力上的飛躍，恰恰是由于其在訓練過程中引入了“思考鏈提示（Chain-of-Thought prompting，簡稱CoT prompting）”的一種方法，“小樣本學習（few-shot learning）”。這種訓練方法會要求AI在訓練過程中生成-言說（generating-enunciating）回應問題的思考過程而不僅僅是問題的答案，通過少量樣本（包含思考過程與答案）提示就可以讓機器自己舉一反三學會學習。而這種訓練方式之所以可行又與復雜性科學中所處理的復雜系統(tǒng)涌現(xiàn)（emergence）現(xiàn)象相關(guān)。由此，這篇文章呈現(xiàn)出一個吊詭的特征：齊澤克對GPT的錯誤認知并沒有破壞其文章核心論點的有效性。GPT在經(jīng)過“思考鏈提示”訓練后所涌現(xiàn)出的能力，恰恰部分佐證了他對語言與思想之關(guān)系的一貫觀點：語言并不表達（express）已完成的思想的，思想恰恰是在表述（enunciation）中涌現(xiàn)（emerging）。文章標題“人工智障（Artificial Idiocy）”的批判目標實際上并非“人工智能”，而是這樣一種遍布從左至右意識形態(tài)的“人為蠢行”（Artificial Idiocy）：迷信一個完備的(complete)、不存在不一致性（inconsistency）的“大他者”-意識形態(tài)（理論、教義、觀念、科學、GPT-4、齊澤克）能為知識、政治、倫理乃至革命提供穩(wěn)固奠基與終極保證。
人工智障
（Artificail Idiocy）
文 | [斯洛文尼亞]齊澤克（Slavoj ?i?ek）
“聊天機器人”（chatbots）并沒有什么新鮮的：它們能夠用自然語言對話，理解用戶的基本意圖，根據(jù)預設規(guī)則和數(shù)據(jù)提供回應。但是，近幾個月來，這類聊天機器人的能力得到了極大的增強，導致許多圈子里都出現(xiàn)了擔憂和恐慌。
齊澤克理論著作《連線大腦里的黑格爾》英文版封面
關(guān)于聊天機器人可能會導致傳統(tǒng)學生論文（essay）終結(jié)的話，已經(jīng)說了很多。但是，一個更值得關(guān)注的問題是，當人類對話者使用侵略性、性別歧視或種族歧視的言辭，促使機器人展現(xiàn)自己滿嘴臟話的幻想作為回應時，聊天機器人應該如何回復？人工智能是否應該被編程，使其回答與對方提出的問題處于同一水準線上？
如果我們決定需要采取某種形式的管控，我們必須確定審查應該進行到何種程度。一些群體認為“有攻擊性”的政治立場會被禁止嗎？呼吁與約旦河西岸的巴勒斯坦人團結(jié)在一起，或者聲稱以色列是種族隔離國家（美國前總統(tǒng)吉米·卡特曾將這個說法寫進一本書的標題）呢？它們會被視為“反猶”言論而遭屏蔽嗎？
齊澤克回應批判的文集《齊澤克回擊！》，
Bloomsbury, 2023
問題并沒有在這里結(jié)束。正如藝術(shù)家和作家詹姆斯·布里德爾（James Bridle）所警告的，新的人工智能“基于對現(xiàn)有文化的大規(guī)模挪用”，相信它們“真的有知識或有意義是非常危險的”。因此，我們也應該非常警惕新的人工智能圖像生成器。布里德爾觀察到，“在試圖理解和復制人類視覺文化整體的過程中，[它們]似乎也再造了我們最晦暗的恐懼（fears）。也許這只是一個跡象，表明這些系統(tǒng)在模仿人類意識方面非常出色，甚至可以深入到潛伏在存在（existence）的深處的驚怖（horror）：我們對于骯臟、死亡和腐敗的恐懼。”
但新的人工智能在模擬人類意識方面究竟有多好呢？最近有家酒吧用下面的話宣傳一款特價飲料：“花兩杯的價格買一杯啤酒，免費獲贈第二杯！”對任何人類的一員來說，這顯然是個笑話。經(jīng)典的“買一送一”特價口號被重新設計，從而自我取消。這種玩世不恭的表達會被人稱贊為滑稽的誠實，一切的一切還是為了促進銷售。聊天機器人能理解其中的含義嗎？
“Fuck”也提出了一個類似的難題。盡管它指向的是大多數(shù)人都喜歡做的事情（性交），但它也經(jīng)常帶有消極意味（“我們完蛋了！”[We’re fucked!]“去你的吧！[Go fuck yourself!]”）。語言和現(xiàn)實是混亂的。人工智能是否已經(jīng)準備好去辨別這些差異？
德國詩人海因里希·馮·克萊斯（Heinrich von Kleist）在他1805年的文章《論在言語過程中思想的逐漸形成》（On the Gradual Formation of Thoughts in the Process of Speech，該文首次發(fā)表于克萊斯去世后的1878年）中，顛覆了以下常識：一個人在沒有清楚要說什么之前，不應該張開嘴巴說話。他寫道：“如果一個想法表達得很模糊，那并不意味著這個想法在構(gòu)思時就是混亂的。相反，很可能那些表達【expressed】得最令人困惑的觀念，正是那些思考得最清晰的。”
描述齊澤克公共形象生成的著作《斯拉沃熱如何變?yōu)辇R澤克》，University of Chicago Press，2023
語言與思想之間的關(guān)系非常復雜。斯大林在1930年代初的一次演講中，提出了許多激進措施，用來“發(fā)現(xiàn)并毫不留情地打擊那些僅在思想上反對集體化的人——是的，我是這個意思，我們應該打擊人們的思想”。我們可以肯定地認為，這不是事先準備好的話。在被當時的現(xiàn)場氛圍感染后，斯大林立刻意識到他剛才說了什么。但是，他沒有收回自己的話，而是決定堅持他的夸張說法。
正如雅克·拉康后來所說，這是一個真理在表述（enunciation）行為中意外顯現(xiàn)【原文中為“emerging”，即復雜性科學中“涌現(xiàn)”一詞】的例子。路易·阿爾都塞在捕獲（prise）和驚訝（surprise）之間的互動中發(fā)現(xiàn)了類似的現(xiàn)象。一個突然抓住（“捕獲”）某個想法的人會對她所完成的事感到驚訝。我再問一次，有任何聊天機器人能做到這點嗎？
論文《大型語言模型的涌現(xiàn)能力》
問題不在于聊天機器人很笨，問題在于它們不夠“笨”。問題不在于它們天真（缺乏諷刺和反思），問題在于它們不夠天真（不理解天真掩蓋著敏銳）。因此，真正的危險不是人們會把聊天機器人誤認為是真人，而是與聊天機器人交流會讓真人說話像聊天機器人一樣——丟失掉所有的細微差別和諷刺，癡迷于準確地說出自己想說的話。
我年輕的時候，有個朋友在一次創(chuàng)傷性經(jīng)歷后去一位精神分析師那接受治療。這位朋友對于分析師對患者的期待有一種陳腐的看法，所以他在第一次治療時表演了一些虛假的“自由聯(lián)想”，談論他如何憎恨他的父親，希望父親死去。分析師的反應非常巧妙：他采取了一種天真的“前弗洛伊德”立場，指責我的朋友不尊重他的父親（“你怎么能這樣談論讓你成為你的那個人？”）。這種假裝的天真?zhèn)鬟_了一個明確的信息：我不相信你的虛假“聯(lián)想”。聊天機器人能理解這種潛臺詞嗎？
很可能不能，因為這就像羅文·威廉姆斯（Rowan Williams）對陀思妥耶夫斯基《白癡》里的梅什金公爵的解讀。根據(jù)標準的解讀，“白癡”梅什金，是一個圣潔的、“極其善良美好的人”，他因現(xiàn)實世界的殘酷和激情而被迫陷入孤立的瘋狂狀態(tài)。但在威廉姆斯激進的重讀中，梅什金代表著風暴之眼：盡管他是善良圣潔的，但鑒于他在圍繞著他的復雜關(guān)系網(wǎng)絡中的角色，正是他觸發(fā)了他所目睹的浩劫和死亡。
《連線大腦里的黑格爾》中譯本，
將在今年由西北大學出版社出版
問題不僅僅在于梅什金是一個天真的傻瓜，問題在于他特有的愚鈍讓他無法意識到他對他人的災難性影響。他是一個說話像聊天機器人一樣的扁平的人【英語原文“He is a flat person who literally talks like a chatbot.”，譯文刪掉了literally】。他的“好”在于，他像聊天機器人一樣，不帶諷刺地應對挑戰(zhàn)，提供毫無反思的陳詞濫調(diào)，從字面上理解一切，依賴心智的自動完成（mental auto-complete）而非真正的思想形成（authentic idea-formation）。因此，新的聊天機器人將與各種意識形態(tài)擁躉（ideologues）相處得非常好，從今天的“覺醒”（woke）群體到寧愿繼續(xù)沉睡的“讓美國再次偉大”（MAGA）民族主義者。
「 支持烏有之鄉(xiāng)！」
烏有之鄉(xiāng) WYZXWK.COM
您的打賞將用于網(wǎng)站日常運行與維護。
幫助我們辦好網(wǎng)站，宣傳紅色文化！
歡迎掃描下方二維碼，訂閱烏有之鄉(xiāng)網(wǎng)刊微信公眾號
