2025年9月7日，哥倫比亞大學(xué)終身人文講席教授劉禾、清華大學(xué)教授汪暉、作家格非齊聚上海圖書(shū)館東館閱劇場(chǎng)，以“數(shù)字時(shí)代和人的未來(lái)”為主題進(jìn)行對(duì)談。本場(chǎng)活動(dòng)為“我們時(shí)代的思想者”開(kāi)幕論壇，特別邀請(qǐng)華東師范大學(xué)副校長(zhǎng)雷啟立致開(kāi)幕辭。

在數(shù)字技術(shù)深入滲透日常的當(dāng)下，情感、記憶與無(wú)意識(shí)正不可避免地與算法發(fā)生糾纏，人機(jī)之間的界限也愈發(fā)曖昧。“弗洛伊德機(jī)器人”這一概念的浮現(xiàn)，不僅是技術(shù)發(fā)展的必然，更是人類(lèi)潛意識(shí)的投射與映照。當(dāng)智能機(jī)器不斷從“模仿人”走向“成為人”，我們不得不追問(wèn)：在人機(jī)糾纏的回路中，“人”的意義是否正在悄然改變？今天，三位學(xué)者齊聚一堂，以不同的學(xué)科立場(chǎng)與經(jīng)驗(yàn)，重新思考人類(lèi)與機(jī)器的共生困境，引出對(duì)當(dāng)下與未來(lái)的深層追問(wèn)。

本場(chǎng)活動(dòng)由上海圖書(shū)館、華東師范大學(xué)國(guó)際漢語(yǔ)文化學(xué)院、華東師范大學(xué)中國(guó)語(yǔ)言文學(xué)系主辦，上海圖書(shū)館講座中心、華東師范大學(xué)遠(yuǎn)讀批評(píng)中心、華東師范大學(xué)全球中文發(fā)展研究中心承辦。

華東師范大學(xué)副校長(zhǎng)雷啟立致開(kāi)幕辭

劉禾教授發(fā)言

華東師范大學(xué)遠(yuǎn)讀批評(píng)中心同學(xué)帶來(lái)表演

以下為對(duì)談內(nèi)容：

活動(dòng)現(xiàn)場(chǎng)

汪暉：剛才我們看到了一場(chǎng)精彩的表演，劉禾老師在新書(shū)中也寫(xiě)到過(guò)一位年輕的女病人和“伊莉莎”的人機(jī)對(duì)話(huà)。和機(jī)器對(duì)話(huà)很大程度上是和我們自己對(duì)話(huà)，就像照鏡子一樣。AI不僅能和我們對(duì)話(huà)，還能根據(jù)指令生成文章、繪畫(huà)和音樂(lè)，它仿佛成為了一面能動(dòng)的、有生產(chǎn)能力的“魔鏡”。當(dāng)我們?cè)絹?lái)越依賴(lài)機(jī)器這面魔鏡來(lái)表達(dá)和創(chuàng)造時(shí)，我們是在借助工具擴(kuò)展自我，還是在將自我的定義權(quán)讓渡給一個(gè)由他人算法所定義的反射？我們?cè)撊绾闻c這個(gè)“鏡中之我”保持一種健康、清醒的距離？如果像剛才這樣的對(duì)話(huà)繼續(xù)持續(xù)下去，是否可能變成我們看待自我的一種新的方式？劉禾教授，您怎么看待這個(gè)現(xiàn)象？

劉禾：約瑟夫·魏岑鮑姆（Joseph Weizenbaum）將歷史上第一個(gè)聊天軟件開(kāi)發(fā)出來(lái)后，曾在采訪(fǎng)中提到，他有一天在辦公室發(fā)現(xiàn)自己的助手在和程序?qū)υ?huà)，正要湊近看時(shí)，助手說(shuō)：“你別接近我！這是個(gè)人隱私。”魏岑鮑姆開(kāi)玩笑說(shuō)，這個(gè)隱私其實(shí)不那么隱私，因?yàn)樗梢詮暮蠖肆私饬奶靸?nèi)容，結(jié)果助手大發(fā)雷霆。魏岑鮑姆說(shuō)，人們，包括他的助手，都誤解了聊天程序的本質(zhì)。在他看來(lái)，用戶(hù)和程序互動(dòng)時(shí)，其實(shí)把自身的愿望、幻想和期待投射到了機(jī)器上。機(jī)器生成的文本語(yǔ)言非常模糊，這為用戶(hù)提供了廣闊的詮釋空間，就像人們?nèi)ニ忝诮庾x算命先生話(huà)語(yǔ)的過(guò)程中，仍然會(huì)回到內(nèi)心早已存在的答案。

汪暉

汪暉：讓我們從文學(xué)的角度回答一下這個(gè)問(wèn)題。劉禾老師的書(shū)里談到了喬伊斯的《芬尼根守靈夜》，并指出現(xiàn)代主義文學(xué)的先鋒性與某種語(yǔ)言文字的隨機(jī)性相關(guān)，而這種隨機(jī)性如今已然可以技術(shù)化。格非老師，從您的寫(xiě)作經(jīng)驗(yàn)來(lái)看，您認(rèn)為文學(xué)創(chuàng)作中最核心的、最無(wú)法被技術(shù)替代的價(jià)值是什么？當(dāng)世界的“真實(shí)性”越來(lái)越被數(shù)字幻象所中介，人類(lèi)還有獨(dú)屬于“人類(lèi)”的未來(lái)嗎？對(duì)于人類(lèi)“認(rèn)識(shí)自身”而言，講故事和形式實(shí)驗(yàn)，何者更為重要？

格非：這是非常重要的問(wèn)題。我花了十天時(shí)間讀這本書(shū)，其中有幾個(gè)方面和這個(gè)問(wèn)題是密切相關(guān)的。第一，無(wú)意識(shí)與技術(shù)的關(guān)系。第二，從口語(yǔ)到書(shū)寫(xiě)，再到計(jì)算機(jī)的信息處理，這個(gè)漫長(zhǎng)的語(yǔ)言學(xué)過(guò)程中發(fā)生了什么？第三，現(xiàn)代主義文學(xué)和技術(shù)到底是什么關(guān)系？回到汪暉老師的提問(wèn)，昨天我和李陀老師聊到這個(gè)話(huà)題，李陀老師說(shuō)，他在讀馬克思的《關(guān)于費(fèi)爾巴哈的提綱》時(shí)有一個(gè)信念，同時(shí)也是馬克思的經(jīng)典說(shuō)法，即認(rèn)為我們認(rèn)識(shí)世界的目的，就是為了改變這個(gè)世界。可是德國(guó)學(xué)者君特·安德斯的說(shuō)法與此不同，他認(rèn)為，我們認(rèn)識(shí)世界的目的不是為了改變世界，因?yàn)槭澜缫恢痹诟淖儭⒑汤蠋熢跁?shū)里提到了《莊子》中關(guān)于機(jī)械、機(jī)事和機(jī)心的寓言，這恐怕是海森堡特別關(guān)注的一個(gè)問(wèn)題，其中就涉及語(yǔ)言和無(wú)意識(shí)。我作為一個(gè)小說(shuō)家，如何理解喬伊斯？比如他為什么寫(xiě)出了所有作家都公認(rèn)的寫(xiě)實(shí)主義力作《都柏林人》《青年藝術(shù)家的畫(huà)像》后，還要重新尋找新路去寫(xiě)《尤利西斯》？《尤利西斯》實(shí)際上做了非常巨大的冒險(xiǎn)，這個(gè)冒險(xiǎn)在世界范圍內(nèi)引起了爭(zhēng)議，但他后來(lái)又去做了關(guān)于《芬尼根守靈夜》的更極端的嘗試。劉禾在書(shū)中把它稱(chēng)作語(yǔ)言?xún)?nèi)部機(jī)制的極端冒險(xiǎn)。我經(jīng)常說(shuō)，如果把我心中的文學(xué)壓縮成兩本小說(shuō)，一本是列夫·托爾斯泰的《戰(zhàn)爭(zhēng)與和平》，第二本就是《尤利西斯》，或者《芬尼根守靈夜》。前面一本代表了整個(gè)現(xiàn)實(shí)主義的最高成就，而喬伊斯涉及了最核心的東西，即“什么東西不能被AI取代”的問(wèn)題。我認(rèn)為一個(gè)人，作為個(gè)體的生存體驗(yàn)，那些剎那間的感覺(jué)和感知，是機(jī)器所不能取代的。并且我們的體驗(yàn)并不能隨時(shí)取用，而是把它存入記憶當(dāng)中。可是從尼采，到弗洛伊德，再到德國(guó)古典哲學(xué)觀念論時(shí)期的謝林，他們都有一個(gè)共同的說(shuō)法——記憶從一開(kāi)始就是無(wú)意識(shí)。我們不能認(rèn)為記憶是一個(gè)完全理性的、不受控于意識(shí)的行為。寫(xiě)作最迷人的部分就是記憶的無(wú)意識(shí)部分，因?yàn)槿嗽谛袨楫?dāng)中，比如談戀愛(ài)，你覺(jué)得高興，但這些事情很快就會(huì)被遺忘。如果某個(gè)行為在大腦中留下印記，那這個(gè)印記就會(huì)被歸入無(wú)意識(shí)的范疇，比如受到窘迫、挫折、巨大的悲傷，或是不能直視的生活場(chǎng)景。當(dāng)然，如果人的精神出現(xiàn)問(wèn)題，這是因?yàn)闊o(wú)意識(shí)的內(nèi)容侵入了意識(shí)的領(lǐng)域。文學(xué)在某種意義上就是如此，里面有一個(gè)巨大的無(wú)意識(shí)空間，人們無(wú)法完全按照基本語(yǔ)義和它表達(dá)的內(nèi)容來(lái)呈現(xiàn)。真正迷戀喬伊斯的人不一定是文學(xué)家，而是科學(xué)家。法國(guó)大革命有一批革命者，他們大部分原先都是色情小說(shuō)作家，所以文學(xué)和技術(shù)、政治，從來(lái)都是不能分開(kāi)的。回到汪暉老師的問(wèn)題，我們需要去探索一個(gè)空間，即拉康后來(lái)揭示的，無(wú)意識(shí)的茫茫黑夜。文學(xué)的一部分受理性控制，更多的部分是尼采說(shuō)的，狄?jiàn)W尼索斯的創(chuàng)造性智慧，它被黑暗所籠罩，需要通過(guò)寫(xiě)作把它召喚出來(lái)，才能獲得喬伊斯式的、真正意義上的書(shū)寫(xiě)自由。

格非

劉禾：文學(xué)在我這本書(shū)中占有很大的比重，而我之所以在這本書(shū)中加入文學(xué)，并不是把文學(xué)作為語(yǔ)料庫(kù)使用。我在書(shū)中提到俄國(guó)數(shù)學(xué)家馬爾可夫（Markov），他的“馬爾可夫鏈”（Markov Chain）是很早期的數(shù)學(xué)模型，而這來(lái)自于對(duì)普希金的詩(shī)《葉甫蓋尼·奧涅金》中元音和輔音的計(jì)算。文學(xué)是先于數(shù)字技術(shù)的，尤其是現(xiàn)代主義文學(xué)。喬伊斯在《芬尼根守靈夜》這本幾乎不可讀的小說(shuō)里做了一個(gè)數(shù)學(xué)實(shí)驗(yàn)，而這就是為什么“信息論之父”克勞德·香農(nóng)把喬伊斯這本書(shū)拿來(lái)計(jì)算熵（entropy）和冗余度（redundancy），喬伊斯這本書(shū)在他的通信理論研究中起了巨大作用。另一個(gè)話(huà)題關(guān)于人和工具。教科書(shū)給“人”的定義通常是“能夠制造和使用工具的動(dòng)物”，后來(lái)我們發(fā)現(xiàn)鳥(niǎo)類(lèi)和別的動(dòng)物也會(huì)使用工具時(shí)，很少反省教科書(shū)的定義存在錯(cuò)誤，而是反過(guò)來(lái)贊美那些動(dòng)物和鳥(niǎo)類(lèi)的智慧。但仔細(xì)想想，我們真的在贊美動(dòng)物和鳥(niǎo)類(lèi)嗎？不，我們贊美的是自己，好像人類(lèi)是世間萬(wàn)物的衡量標(biāo)準(zhǔn)。這是一個(gè)哲學(xué)問(wèn)題。

劉禾

汪暉：兩位都提到了無(wú)意識(shí)，提到了某些經(jīng)驗(yàn)和感性。不過(guò)劉禾老師提到一個(gè)新的無(wú)意識(shí)概念——“控制論無(wú)意識(shí)”，也就是格非老師剛才提到的，作為作家所受到的一個(gè)挑戰(zhàn)，就來(lái)自于控制論無(wú)意識(shí)。劉禾老師，我們能夠用心理分析的方法對(duì)機(jī)器人進(jìn)行分析嗎？

劉禾：我認(rèn)為用精神分析的方法分析機(jī)器人，就等于分析我們自己。

汪暉：劉禾老師在書(shū)中提到“人機(jī)擬像”的無(wú)限反饋回路，即機(jī)器模仿人，人再模仿機(jī)器，這個(gè)過(guò)程循環(huán)往復(fù)，最終使得“自然人”的概念變得可疑。我們今天討論的是人的未來(lái)，這讓我想起更早時(shí)期的哲學(xué)辯論，比如笛卡爾說(shuō)動(dòng)物是機(jī)器，人不是機(jī)器。為什么？首先因?yàn)槿擞欣硇浴Ｋf(shuō)的理性是能夠計(jì)算，能夠通過(guò)人的精神表達(dá)出一種完美的宇宙世界。第二個(gè)是人有語(yǔ)言。理性和語(yǔ)言在當(dāng)時(shí)構(gòu)成了人區(qū)別于動(dòng)物的標(biāo)記。在這個(gè)意義上，他模糊了有機(jī)和無(wú)機(jī)，動(dòng)物如果是機(jī)器的話(huà)，有機(jī)和無(wú)機(jī)的邊界就被突破了。但是他守護(hù)著人和動(dòng)物之間、理性和語(yǔ)言的邊界。后來(lái)的拉美特利，既從笛卡爾的理論來(lái)，又反駁了笛卡爾，提出人也是機(jī)器，因?yàn)槿擞懈行浴１热鐗?mèng)幻，睡夢(mèng)中的幻覺(jué)和人清醒時(shí)的狀態(tài)之間，也沒(méi)有清晰的邊界，所以那一部分是依托于人的肉身的。換句話(huà)說(shuō)，精神和肉身無(wú)法分離。現(xiàn)如今“人機(jī)擬像”的無(wú)限反饋回路造成了人和機(jī)器的并存，似乎能夠隱隱約約地感受到邊界的動(dòng)搖。所以，我們是否正在經(jīng)歷一個(gè)二者邊界徹底溶解的“后人類(lèi)”過(guò)程？在這樣的圖景下，建立在人類(lèi)例外論和個(gè)體自主性基礎(chǔ)上的傳統(tǒng)倫理框架，是否正在面臨挑戰(zhàn)？我們需要怎樣的新倫理來(lái)應(yīng)對(duì)這種根本性的轉(zhuǎn)變？

劉禾：我始終在焦慮人的主體性的安置問(wèn)題，因?yàn)楝F(xiàn)在人和機(jī)器的界限很不明確。但這并不是說(shuō)我們分不清人和機(jī)器，而是如果要重新定義“人”的話(huà)，人已經(jīng)不是一個(gè)脫離機(jī)器存在的主體，必須存在一個(gè)加號(hào)。比如我和我的手機(jī)是一體的，如果手機(jī)突然丟了，就好像是自己掉了一塊肉，因?yàn)槲业挠洃浫荚谑謾C(jī)里，已經(jīng)沒(méi)有辦法界定我和機(jī)器之間的界限在哪里了。很多人說(shuō)人機(jī)融合了，人可以植芯片，人類(lèi)可以不朽，但我不那么樂(lè)觀。這本書(shū)提出的是一種哲學(xué)的批判，人完全有可能會(huì)變成“弗氏人偶”。就像情侶在一起坐在一起喝咖啡的時(shí)候，兩個(gè)人都對(duì)著自己的手機(jī)，這個(gè)圖景是值得我們深思的。

劉禾著《弗洛伊德機(jī)器人》

汪暉：接著從另一個(gè)角度問(wèn)格非老師。“人機(jī)擬像”或它的增強(qiáng)，現(xiàn)在能不能實(shí)現(xiàn)、何時(shí)實(shí)現(xiàn)，還依舊是一個(gè)問(wèn)題，不必要馬上回答。但是人工智能創(chuàng)造的虛擬現(xiàn)實(shí)，這一定程度上已經(jīng)成為年輕人生活中的一部分。所謂“虛擬現(xiàn)實(shí)”、“增強(qiáng)現(xiàn)實(shí)”、“元宇宙”等概念都在模糊現(xiàn)實(shí)世界和鏡像世界的關(guān)系，人工智能似乎變成了有自己生命、思維、方式的另外一種東西。作為一個(gè)長(zhǎng)期通過(guò)“虛構(gòu)”來(lái)探尋“真實(shí)”的小說(shuō)家，您如何看待這種技術(shù)帶來(lái)的現(xiàn)實(shí)感變遷？這是人類(lèi)想象力的偉大延伸，還是一種令人擔(dān)憂(yōu)的、對(duì)現(xiàn)實(shí)世界的逃避甚至替代？在這樣的背景下，小說(shuō)家的虛構(gòu)世界還能為我們理解現(xiàn)實(shí)提供怎樣的獨(dú)特價(jià)值？

格非：我和劉禾老師在某種意義上有相似點(diǎn)，就是悲觀。在文學(xué)這個(gè)領(lǐng)域，我覺(jué)得我們可以做的部分已經(jīng)很有限了。剛才我提到喬伊斯，喬伊斯為什么要做這么大膽的實(shí)驗(yàn)？我覺(jué)得是因?yàn)榧夹g(shù)的進(jìn)步和發(fā)展。剛才汪暉老師提到的“人機(jī)擬像”等問(wèn)題，這些都不是到現(xiàn)代社會(huì)才發(fā)生的，從古至今一直有漫長(zhǎng)的討論。有一個(gè)很重要的物理概念叫“涌現(xiàn)”（emergence），即在一定的系統(tǒng)條件下，事物本身會(huì)發(fā)生突變。最近帶清華的學(xué)生們重讀了《戰(zhàn)爭(zhēng)與和平》，我認(rèn)為《戰(zhàn)爭(zhēng)與和平》寫(xiě)的是突變，是通過(guò)拿破侖的戰(zhàn)爭(zhēng)、通過(guò)法國(guó)大革命、通過(guò)啟蒙運(yùn)動(dòng)，讓整個(gè)世界發(fā)生巨變。戰(zhàn)爭(zhēng)把一個(gè)從西向東的歷史運(yùn)動(dòng)帶到俄羅斯，然后由于庫(kù)圖佐夫擊敗了拿破侖，俄國(guó)軍隊(duì)又從東向西打到了巴黎。然后他們受到巴黎進(jìn)入現(xiàn)代世界的誘惑，回到俄國(guó)以后成立了十二月黨人，開(kāi)始起義。所以托爾斯泰在寫(xiě)《戰(zhàn)爭(zhēng)與和平》的時(shí)候，已經(jīng)準(zhǔn)確預(yù)料到了1917年的革命。我們?cè)谟懻撨@些革命的時(shí)候，會(huì)討論很多歷史運(yùn)動(dòng)、社會(huì)變革等，但我們很少討論技術(shù)問(wèn)題，比如遠(yuǎn)洋貿(mào)易、資本主義的產(chǎn)生、蒸汽機(jī)的發(fā)明。如果從這個(gè)角度看《戰(zhàn)爭(zhēng)與和平》，就能發(fā)現(xiàn)托爾斯泰寫(xiě)的是對(duì)一個(gè)歷史運(yùn)動(dòng)本身的描述。用兩個(gè)概念概括的話(huà)，就是“系統(tǒng)”和“個(gè)人”。雖然相隔時(shí)間不長(zhǎng)，但在喬伊斯的筆下，系統(tǒng)和個(gè)人的關(guān)系又發(fā)生了根本性巨變。所以我認(rèn)為，技術(shù)變革所導(dǎo)致的社會(huì)的系統(tǒng)性變革，其速率會(huì)越來(lái)越快，甚至快得讓人無(wú)法想象。“弗洛伊德機(jī)器人”的背后，實(shí)際上是一個(gè)死亡驅(qū)動(dòng)力，是一種無(wú)意識(shí)。去年，有一位科學(xué)家在《科學(xué)》雜志上發(fā)表了一篇關(guān)于熱力學(xué)第二定律的論文，他在討論人類(lèi)未來(lái)時(shí)提出，人的技術(shù)只不過(guò)加快了這個(gè)進(jìn)程而已。在這樣一個(gè)科學(xué)技術(shù)不斷發(fā)生突變，整個(gè)社會(huì)、人與人之間的交往、信息傳播等所有領(lǐng)域都發(fā)生根本性扭轉(zhuǎn)的狀況下，我們的身份都成了問(wèn)題。比如，我是什么身份？我到底是誰(shuí)？對(duì)于系統(tǒng)來(lái)說(shuō)，系統(tǒng)不認(rèn)為你是男的、女的、官員、教師，或父親，系統(tǒng)只認(rèn)為你是龐大系統(tǒng)里的一個(gè)小點(diǎn)。在這樣的情況下，如果文學(xué)在進(jìn)入社會(huì)現(xiàn)實(shí)時(shí)不尋求變化，而仍然用四平八穩(wěn)的老方式來(lái)描述現(xiàn)實(shí)，你不覺(jué)得可笑嗎？法國(guó)哲學(xué)家德勒茲對(duì)“奇點(diǎn)”（Singularity）一詞做了很重要的解釋?zhuān)裉斓奈膶W(xué)如果找不到奇點(diǎn)，創(chuàng)作就沒(méi)有了意義。喬伊斯實(shí)際上也在尋找這個(gè)奇點(diǎn)。比如上次和汪暉老師聚會(huì)時(shí)，我聊到了麥爾維爾的《白鯨》，他為什么要寫(xiě)《白鯨》？因?yàn)樗业搅税做L自動(dòng)奔赴某個(gè)地方去毀滅的點(diǎn)。麥爾維爾還寫(xiě)過(guò)一篇更奇怪的小說(shuō)，就是《抄寫(xiě)員巴特比》。今天重讀《抄寫(xiě)員巴特比》這篇短篇小說(shuō)，我們也會(huì)發(fā)現(xiàn)他介入了一個(gè)點(diǎn)。鮑德里亞說(shuō)，你做任何事情，系統(tǒng)都不會(huì)有反應(yīng)。一個(gè)人可以反抗所有人，但是反抗不了系統(tǒng)。系統(tǒng)非常強(qiáng)大，只有找到奇點(diǎn)才能突破。按照鮑德里亞的說(shuō)法，巴特比在美國(guó)、歐洲都被認(rèn)為是一個(gè)恐怖主義分子，為什么？因?yàn)樗幌M(fèi)。不消費(fèi)對(duì)于系統(tǒng)的影響是最大的，一個(gè)人不消費(fèi)、不工作，什么都不干，就在律師事務(wù)所呆著，這是他寫(xiě)的點(diǎn)。喬伊斯是一種方法，麥爾維爾也是一種方法。我覺(jué)得當(dāng)代作家如果要繼續(xù)寫(xiě)作的話(huà)，一定需要找到這個(gè)奇點(diǎn)，使得創(chuàng)作和系統(tǒng)的關(guān)系變得更加有意義。

列夫·托爾斯泰著《戰(zhàn)爭(zhēng)與和平》

劉禾：現(xiàn)在的問(wèn)題是，如果AI可以做藝術(shù)，那我們就得問(wèn)藝術(shù)變成了什么？如果AI能寫(xiě)作，寫(xiě)作變成了什么？如果AI能冒充人，那人又是什么？人工智能發(fā)展所提出的最根本的哲學(xué)問(wèn)題就在這里。我們現(xiàn)有的關(guān)于人生、生活的意義，關(guān)于人類(lèi)文明創(chuàng)造的各方面的文化、社會(huì)、政治等所有東西，會(huì)不會(huì)在這個(gè)系統(tǒng)面前變成另外一種東西？這是需要思考的問(wèn)題，而不是簡(jiǎn)單地認(rèn)為AI可以畫(huà)畫(huà)了、可以寫(xiě)作了、可以替人翻譯了。寫(xiě)作是什么？藝術(shù)是什么？人是什么？每次面對(duì)新技術(shù)時(shí)，我們都必須重新提這些古老的問(wèn)題。

汪暉：格非老師提到了《戰(zhàn)爭(zhēng)與和平》，提到了解釋《戰(zhàn)爭(zhēng)與和平》的技術(shù)因素，我們可以想象托爾斯泰對(duì)此的回應(yīng)。托爾斯泰對(duì)和平的理解，及其背后的宗教關(guān)懷，存在一個(gè)想象中的世界。格非老師還提到了系統(tǒng)，讓系統(tǒng)中斷的最大威脅來(lái)自于停止消費(fèi)。但我們也知道，今天的貿(mào)易戰(zhàn)在一定程度上與此相關(guān)。換句話(huà)說(shuō)，所有尖端技術(shù)，尤其是智能技術(shù)，越來(lái)越像是軍事競(jìng)爭(zhēng)邏輯背后牽動(dòng)的。這個(gè)話(huà)題和劉禾老師直接有關(guān)，劉禾老師在書(shū)中指出，“控制論無(wú)意識(shí)”網(wǎng)絡(luò)實(shí)則有一個(gè)源自冷戰(zhàn)軍事需求的技術(shù)理性作為根基，通過(guò)全球性的知識(shí)流通與翻譯，構(gòu)建了一種跨越東西方的普遍性。在如今的后冷戰(zhàn)世代，當(dāng)人工智能技術(shù)本身正在演化為新一輪全球競(jìng)爭(zhēng)的焦點(diǎn)時(shí)，我們是否還有可能超越這種冷戰(zhàn)技術(shù)邏輯？這種超越是在某種對(duì)立的基礎(chǔ)上越走越遠(yuǎn)，還是有可能在《莊子》寓言和海森堡的反思之上重建另一種總體性？我們?cè)搹哪睦飳ふ遥?/p>

劉禾：這個(gè)非常困難，相當(dāng)于在競(jìng)爭(zhēng)之外尋找另一個(gè)可能性。我寫(xiě)這本書(shū)時(shí)做了大量的檔案研究，通信技術(shù)，包括AI背后的各種控制論等，所有技術(shù)都是冷戰(zhàn)的產(chǎn)物。90年代時(shí)，我在伯克利加州大學(xué)任教，有人告訴我，70年代、80年代在伯克利畢業(yè)的理工科學(xué)生，如果想在硅谷一帶找到工作的話(huà)，沒(méi)有辦法繞開(kāi)軍事技術(shù)，也就是說(shuō)找不到任何一個(gè)和軍事研究沒(méi)有關(guān)系的科技領(lǐng)域的工作。現(xiàn)在中美在AI研究方面存在競(jìng)爭(zhēng)，我看不出來(lái)在競(jìng)爭(zhēng)之外還有什么發(fā)展的可能性，這很危險(xiǎn)。冷戰(zhàn)時(shí)期是美國(guó)和蘇聯(lián)之間的競(jìng)爭(zhēng)，當(dāng)時(shí)的機(jī)器翻譯就是為了處理情報(bào)，美國(guó)國(guó)防投入大量資金來(lái)發(fā)展機(jī)器翻譯。現(xiàn)在的ChatGPT等工具翻譯得很流暢，其實(shí)這背后和地緣政治等方面有密切的互動(dòng)。

格非：我稍做一點(diǎn)補(bǔ)充。技術(shù)有一個(gè)很大的特性，它涉及到權(quán)力，而且是根本性的霸權(quán)。各個(gè)國(guó)家都心照不宣地把所有技術(shù)都隱蔽起來(lái)，大家在做一個(gè)非常可怕的競(jìng)賽，就像當(dāng)年的曼哈頓計(jì)劃一樣。原子彈剛發(fā)明的時(shí)候，大家都爭(zhēng)先恐后，所有技術(shù)的意圖都很清晰，誰(shuí)先發(fā)明原子彈誰(shuí)勝。在今天的技術(shù)層面，如果有國(guó)家率先掌握遠(yuǎn)超其他國(guó)家的新技術(shù)，那么大家可以想見(jiàn)其帶來(lái)的力量和權(quán)力。如果所有人都這么思考問(wèn)題的話(huà)，確實(shí)會(huì)帶來(lái)剛才劉禾老師說(shuō)的那種可怕的場(chǎng)景。杰弗里·辛頓到中國(guó)來(lái)提了一個(gè)方案，我覺(jué)得很有道理。他說(shuō)，每個(gè)國(guó)家在發(fā)展自己的核心技術(shù)，這是可以理解的，因?yàn)榘l(fā)展技術(shù)的目的是為了避免被別人奴役，但是大量的其他技術(shù)應(yīng)該及時(shí)分享。我覺(jué)得應(yīng)該對(duì)技術(shù)進(jìn)行不同的分層，比如今天這樣的討論就特別重要。文化、文學(xué)上的討論，使得我們?cè)陉P(guān)心技術(shù)發(fā)展時(shí)，不僅僅關(guān)注技術(shù)迭代的速度，更要像劉禾老師所倡導(dǎo)的那樣，從哲學(xué)、心理學(xué)、歷史學(xué)的角度，來(lái)認(rèn)真思考技術(shù)對(duì)當(dāng)今社會(huì)帶來(lái)的諸多問(wèn)題。

汪暉：感謝兩位老師的發(fā)言。下面的的問(wèn)題和語(yǔ)言有關(guān)。劉禾老師在書(shū)中批判了以“機(jī)識(shí)英文”為代表的拼音文字表意化所蘊(yùn)含的帝國(guó)普世主義，它試圖將一切語(yǔ)言和生命形式都納入其可計(jì)算的單一系統(tǒng)。中文作為一種非拼音文字系統(tǒng)，在數(shù)字時(shí)代面臨著被這種普世主義“收編”（如通過(guò)編碼和輸入法）的強(qiáng)大壓力。您認(rèn)為，中文的文字特性及其背后的思維模式，是否可能為抵抗這種數(shù)字普世主義提供某種可能性？第二個(gè)問(wèn)題問(wèn)格非老師，在這樣一個(gè)背景下，持續(xù)性的、具有創(chuàng)造性的漢語(yǔ)寫(xiě)作，在數(shù)字時(shí)代具有什么樣的意義和可能性？

劉禾：從理論上來(lái)說(shuō)，香農(nóng)當(dāng)年發(fā)明通信數(shù)學(xué)公式的時(shí)候，往26個(gè)英文字母里加了一個(gè)字母，這第27個(gè)字母是“空格”。他說(shuō)，英文的字母表是27個(gè)字母，在這個(gè)基礎(chǔ)上，才有通信的數(shù)學(xué)模式。所有的語(yǔ)言和文字最后都會(huì)納入編碼模式，因此它在機(jī)器里是具有普適性的。當(dāng)然，每個(gè)漢字也有自己獨(dú)特的編碼，能夠進(jìn)入統(tǒng)一的系統(tǒng)，在這個(gè)意義上，漢字不能作為一種另外的資源來(lái)思考普適性問(wèn)題。但是另一方面，漢字在早期人工智能的研究中起了很大的作用。50年代，英國(guó)劍橋語(yǔ)言研究小組在做機(jī)器翻譯研究時(shí)，發(fā)現(xiàn)漢字和漢語(yǔ)主要依靠組合邏輯（combinatorial logic），而非命題邏輯（propositional logic）。對(duì)比來(lái)說(shuō)，英文和法文很難將詞與詞、句與句對(duì)應(yīng)，因?yàn)樵~是多義的。因此他們提出了一系列語(yǔ)義網(wǎng)絡(luò)，如今的向量空間等方面的人工智能研究，都和他們?cè)?jīng)的這類(lèi)工作有關(guān)。從這個(gè)角度來(lái)看，漢語(yǔ)對(duì)人工智能的貢獻(xiàn)是持久的，因?yàn)樗⒃趯?duì)語(yǔ)義的理解之上。

克勞德·艾克伍德·香農(nóng)

格非：我個(gè)人認(rèn)為，我們今天的寫(xiě)作，尤其是使用語(yǔ)言的策略，遇到了多重的挑戰(zhàn)。比如，我們很多作家根本不像過(guò)去那些作家一樣，要通過(guò)自己的經(jīng)驗(yàn)積累才能獲得寫(xiě)作素材。例如新聞媒體信息就能提供很多素材，這讓寫(xiě)作在某種意義上變得非常容易，因?yàn)樗峁┧夭牡耐瑫r(shí)，還提供大量的附加信息。比如你對(duì)醫(yī)療行業(yè)不了解，通過(guò)Deepseek或其他軟件，完全可以把自己變成一個(gè)專(zhuān)家，可以描述一個(gè)原本不熟悉的門(mén)類(lèi)或一種社會(huì)生活，這在過(guò)去是不敢想象的。但它同時(shí)也造成一個(gè)問(wèn)題，那就是，如果AI也能做的東西，做得會(huì)比一般作家好。這樣一來(lái)，一個(gè)人通過(guò)長(zhǎng)期的語(yǔ)言培訓(xùn)產(chǎn)生的語(yǔ)感會(huì)消失，語(yǔ)感不僅僅代表語(yǔ)言訓(xùn)練得多好，更重要的是代表了一個(gè)人和世界的特殊關(guān)系。第二，寫(xiě)作過(guò)程中，經(jīng)常會(huì)有突發(fā)奇想，進(jìn)入一個(gè)自由的狀態(tài)。福柯有一個(gè)非常著名的說(shuō)法，如果你找到了一個(gè)很好的詞，你怎么知道這個(gè)詞不是從遠(yuǎn)方飄過(guò)來(lái)，經(jīng)過(guò)了你的大腦？博爾赫斯有一句更加精簡(jiǎn)的名言：“作家是神的抄寫(xiě)員”，神就是靈感。當(dāng)人處在出神的狀態(tài)，語(yǔ)言的敏感性是不一樣的。但是大家也都知道，這樣的寫(xiě)作在今天沒(méi)有前途，因?yàn)槟軌蚓?xì)把握語(yǔ)言的讀者越來(lái)越少。在這種情況下，一般性的寫(xiě)作會(huì)被人工智能取代，如果要做精深的探索，表達(dá)個(gè)性，將會(huì)變得非常困難。當(dāng)然，我認(rèn)為寫(xiě)作是絕對(duì)有意義的，這個(gè)沒(méi)什么好商量的，萬(wàn)一有一天機(jī)器寫(xiě)得比我好，我也不會(huì)放棄寫(xiě)作，因?yàn)閷?xiě)作是我的權(quán)利，它給我?guī)?lái)巨大的快樂(lè)。唯一的問(wèn)題是，我們的作品很可能會(huì)回到李白、杜甫的那個(gè)時(shí)代，只被很少的人閱讀，但這也沒(méi)什么不好。今天有一些年輕的寫(xiě)作者，他們寫(xiě)了很多不發(fā)表的作品，給朋友們看一看，印個(gè)一兩百冊(cè)，這種寫(xiě)作在將來(lái)會(huì)變得非常普遍。寫(xiě)作不是一種比賽，而是為了把你從焦慮中、從無(wú)聊中拯救出來(lái)的一種游戲，這個(gè)權(quán)利你不能放棄。我覺(jué)得只需要我們?cè)诒蛔x者認(rèn)可這方面適當(dāng)降低一點(diǎn)期待值就可以了，全國(guó)有14億人，如果有10萬(wàn)人買(mǎi)你的書(shū)，這個(gè)數(shù)量也不小。我們需要重新調(diào)整跟時(shí)代的關(guān)系，憑著自己的內(nèi)心，從中來(lái)確定我們的語(yǔ)言策略，否則的話(huà)，寫(xiě)什么都沒(méi)有意義。我很迷戀寫(xiě)作帶給我的巨大激情，所以我覺(jué)得盡管我們面對(duì)很多困難，但還是有辦法克服的。

汪暉：格非老師的話(huà)給了我們一點(diǎn)信心。清華大學(xué)曾經(jīng)有一個(gè)討論人工智能的活動(dòng)，我觀察發(fā)現(xiàn)，從事技術(shù)的科學(xué)家到今天為止，主要還都在從事著工具性的發(fā)展項(xiàng)目。而哲學(xué)家、倫理學(xué)家更傾向于把人工智能看作是和人類(lèi)幾乎并置的他者，這是人類(lèi)歷史上從未出現(xiàn)過(guò)的現(xiàn)象。但這個(gè)現(xiàn)象背后存在著對(duì)所謂通用人工智能，和超級(jí)人工智能的恐懼，因?yàn)樗坏軌蜻_(dá)到人的智能水平，甚至可能超過(guò)人。劉禾老師的書(shū)中也提到了“恐惑”（uncanny）這個(gè)概念。弗洛伊德提的傳統(tǒng)的“恐惑”體驗(yàn)中，那個(gè)“詭異的他者”既熟悉又陌生，但其“他者性”的邊界是清晰的。然而，當(dāng)前AI的目標(biāo)是創(chuàng)造“無(wú)所不知、無(wú)所不能”的通用智能，其本質(zhì)是一種沒(méi)有內(nèi)在性、沒(méi)有潛意識(shí)、卻又能完美模擬所有人類(lèi)表達(dá)形式的存在。我們不知道人工智能發(fā)展的奇點(diǎn)有沒(méi)有到來(lái)，至少到今天，恐怕很難作肯定的回答，但它的速度之快使人們感覺(jué)它要到來(lái)了。像剛才劉禾教授提到的“控制論無(wú)意識(shí)”一樣，它帶來(lái)的是無(wú)意識(shí)，但這又不是我們通常所說(shuō)的意識(shí)和無(wú)意識(shí)。也就是說(shuō)，它沒(méi)有所謂內(nèi)在性，沒(méi)有真正的“自我”（self），沒(méi)有所謂的“內(nèi)在深度”（inwardness）。這是否會(huì)導(dǎo)致我們傳統(tǒng)的關(guān)于他者性的討論也消失，轉(zhuǎn)化為另一種東西？我們過(guò)去講“他者”都是講其他的宗教、其他的民族、其他的地區(qū)，我們討論像愛(ài)德華·薩義德（Edward Said）討論的那些他者化問(wèn)題。可是我們今天面臨的是完全不一樣的他者，那他所帶來(lái)的對(duì)人類(lèi)的不安全感，一定程度上也會(huì)塑造我們的自我意識(shí)。我們?cè)撛趺慈ダ斫膺@個(gè)自我意識(shí)？此外，劉禾教授在書(shū)中非常強(qiáng)調(diào)人與機(jī)器持續(xù)的循環(huán)模仿，我們都知道，人工智能帶來(lái)了很多便利，但同時(shí)也帶來(lái)很多危險(xiǎn)。客觀地講，我們面臨的危險(xiǎn)包括兩類(lèi)，一是日常社會(huì)化的系統(tǒng)問(wèn)題，比如高效率的人工智能導(dǎo)致大規(guī)模的失業(yè)，我們?cè)撛趺刺幚硎I(yè)問(wèn)題？又比如無(wú)人駕駛的汽車(chē)撞死人了，如何認(rèn)定法律糾紛和責(zé)任問(wèn)題？二是技術(shù)性的人工智能失控，機(jī)器人“發(fā)瘋”等等。今年暑假前，圖靈獎(jiǎng)得主姚期智教授說(shuō)，現(xiàn)在的問(wèn)題不是理論上的，而是實(shí)際上已經(jīng)出現(xiàn)了。那么接下來(lái)，社會(huì)科學(xué)家要提出對(duì)這個(gè)問(wèn)題的治理模式，以及一系列人工智能的治理方式；哲學(xué)家和倫理學(xué)家要討論新的AI倫理該如何成型。德國(guó)的倫理學(xué)家曾提出過(guò)一個(gè)問(wèn)題，我認(rèn)為跟劉禾教授討論的問(wèn)題具有相似性。他們都強(qiáng)調(diào)，AI倫理無(wú)法運(yùn)用迄今為止已經(jīng)發(fā)展出的規(guī)范倫理學(xué)、實(shí)踐倫理學(xué)，只能在互相模擬和相互互動(dòng)中產(chǎn)生。這一方面提出了巨大的挑戰(zhàn)，但另一方面，這使我們對(duì)它的把握具有高度的不確定性，又會(huì)增強(qiáng)“恐惑”現(xiàn)象，您能否分析這個(gè)現(xiàn)象？

劉禾：我們平時(shí)看到的機(jī)器人形象大多是非常可愛(ài)的，但其實(shí)從70年代開(kāi)始，一些制造機(jī)器人的公司和大學(xué)實(shí)驗(yàn)室，已經(jīng)在討論一個(gè)叫“恐怖谷”（the uncanny valley）的概念。最早提出這個(gè)概念的是一位日本的機(jī)器人工程師，叫森昌弘。森昌弘從弗洛伊德得到啟發(fā)，他說(shuō)，我們可以把機(jī)器人的手做得跟人一樣，靜脈、肌肉、肌腱、指甲，甚至膚色，全都一模一樣，但是當(dāng)你去和它握手的時(shí)候，它是冰涼的。這是非常恐怖的。森昌宏說(shuō)，機(jī)器人產(chǎn)業(yè)必須制造一個(gè)標(biāo)準(zhǔn)，一個(gè)衡量在什么情況下，人類(lèi)和機(jī)器人之間的互動(dòng)會(huì)落入恐怖谷的標(biāo)準(zhǔn)。后來(lái)，好萊塢電影工業(yè)也納入這個(gè)標(biāo)準(zhǔn)，他們用這類(lèi)技術(shù)生產(chǎn)電影，思考怎樣能讓數(shù)字演員像真的，但又不落入恐怖谷。這是機(jī)器人實(shí)驗(yàn)室里出現(xiàn)的理論思考，而這個(gè)理論思考背后，也有很多關(guān)于人和機(jī)器的關(guān)系、人的倫理如何被納入機(jī)器人設(shè)計(jì)的思考和討論。倫理這個(gè)問(wèn)題經(jīng)常被大眾探討，尤其是有一些事件發(fā)生的時(shí)候。例如埃隆·馬斯克的Grok系統(tǒng)，前一陣突然冒出了白人至上主義、種族主義特征的語(yǔ)句，大家會(huì)問(wèn)“你怎么能讓你的AI系統(tǒng)說(shuō)這樣的話(huà)”。但我認(rèn)為，最大的問(wèn)題不是AI系統(tǒng)，而是我們?nèi)祟?lèi)自己的倫理思考不到位。我們自己尚且沒(méi)有解決種族主義、白人至上主義這些巨大的社會(huì)問(wèn)題和心理問(wèn)題，憑什么把它轉(zhuǎn)嫁給AI系統(tǒng)？AI反照的是我們自己，讓我們得以重新審視什么叫人類(lèi)的能力。