科幻作家陳楸帆的新作《AI未來進行式》（浙江人民出版社2022年5月出版）與人工智能專家李開復合作，有種理呆文傻手拉手走江湖的互補性反差萌。書的一半是十篇科幻小說，每篇對應一類科技應用，另一半是技術分析和科普，給文學故事提供科技現實的土壤。《上海書評》邀請作家小白和陳楸帆對談，探討了人工智能對人類社會的當下介入與未來發展可能性，以及科幻寫作和虛構類敘事的技巧。

《AI未來進行式》

李開復、陳楸帆著

浙江人民出版社

2022年5月出版

464頁，88.00元

《AI未來進行式》在設計和結構上有些新奇。它既像個短篇故事集，但因為主旨集中，某種程度上也可以說是一種長篇小說。而且每一篇故事讓專家來做解讀和技術背景介紹，這接近于科普寫作的部分在書中占有相當篇幅，兩個部分構成了一種互為詮釋的關系。也就是說，讀者既可以把科普部分視為對故事的注解，也可以把故事看作對科普內容的敘事化展現。這樣一個構思，最初是怎樣形成的呢？

陳楸帆：其實這種結構是從一開始就有的設計，科幻小說搭配對故事中出現的技術進行分析展望，是一種打破虛構與非虛構界限的文體類型。因此我和開復在前期進行了大量的調研訪談工作，針對人工智能研究者、學者、從業者、投資者，希望盡可能深入地理解目前行業發展狀況。基于這些理解我們繪制了一張AI技術發展路線圖，把不同技術點按照應用場景由近到遠、由淺入深地進行排列組合，在這些“技術套裝”之上，我再去發想不同的故事，包括背景、文化、場景、人物情感、價值沖突等等，以期在科技的信息量與文學的復雜性之間達成平衡協調。所以確實如您所說，這本書有許多種讀法，分開來讀，合在一起讀，把它們作為互文來讀，或者去讀出兩部分之間斷裂沖突之處，都很有意思。當然最后效果如何還得看讀者的反饋。

技術套裝，這個說法有意思。閱讀時候確實有這種感覺，這十個部分從故事本身來看，是從日常事件漸漸寫到更重大事件，而且排序上也好像關乎某種技術發展邏輯，所以讀起來確實有一種整體感。設想這些故事時，你覺得很順利嗎？這有時候有點像命題作文，有沒有在為某個“技術套裝”設想一個故事時，完全找不到方向的時刻？這些故事里面哪一篇曾讓你最為難？

陳楸帆：前面半年非常撓頭，就是因為找不準方向。開復是個技術樂觀主義者，但純粹的樂觀落實到故事層面會顯得幼稚且缺乏戲劇張力，我必須去挖掘其中可能存在的價值觀沖突，所以也有過廢稿。直到我提出十個故事必須落在十個不同的社會，從特定的歷史文化語境中去尋找未來演變跡象，而AI技術作為工具，也可能被利益集團濫用，去放大人性或制度中的負面因素，比如《一葉知命》中的種姓制度。但最終，人類需要發揮自己的主觀能動性，學會與科技共生共存共同進化，這是唯一的出路。最難的可能是《人類剎車計劃》，因為這是一個瘋狂科學家毀滅世界的典型故事，如何讓它真實可信不落俗套同時又保留一定的希望，確實煞費了一些功夫。

你提到《一葉知命》，故事展望了未來大數據挖掘分析可以達到的廣度和深度，也揭示了它可能給人類社會帶來的負面沖擊。我們知道通過海量數據分析，計算機確實能做到一些我們可以稱之為“預測”的事情，或者說“算命”。人類已開始試著實踐用算法來預測犯罪，故事本身當然引向了對數據長尾因素會造成嚴重偏見的討論，那么你對大數據預測這件事本身有什么看法？

陳楸帆：預測未來這件事情人類已經做了上萬年，從茹毛飲血的穴居時代，人類就通過原始的祭祀崇拜來祈求神靈帶來獵物，減少疾病與天災。在科學的時代我們依靠數據建模來擬合現實，希望推演事物未來發展的軌跡。當數據量、參數及模型維度遠超人類大腦能夠處理的規模之后，機器便順其自然地成為新的先知。然而其中存在著幾個核心問題：首先是如何保證相關數據的完整性，這涉及到對現實采樣的范圍與粒度；其次是機器只能理解數據集中的相關性而非因果關系，往往導致預測的偏差；模型是否存在與訓練數據集過擬合（overfitting，在機器學習中指算法模型過于緊密或精確地匹配特定數據集，以至于無法良好地擬合其他數據或預測未來的觀察結果的現象。數據不足、模型參數過多、結構過于復雜都可能是產生過擬合的原因，其本質在于模型將無關的噪聲誤認為具有相關性的有效信息）而無法泛化到更為普遍的場景；最后就是我們往往借助于人類對歷史的理解與認知來建立預測模型，但或許這種人類中心主義的視角只能看到冰山一角，現實世界是一個多主體交互的巨復雜系統，甚至連時空都并非勻質線性的本質存在，我們又知道些什么呢？所以最后多半結果會像《西部世界》中的“雷荷波”（Rehoboam）系統一樣，走向自反性的崩潰。

《雙雀》是這些故事中比較讓人心情愉悅的一篇，我知道你對自然語言生成算法了解很多，你覺得機器很快就能實現用自然語言說話寫作嗎？如果真到了那一天，你覺得人類社會會發生怎樣的變化？比如教育領域，比如寫作，這會不會引起某種文化上的巨變？

陳楸帆：最新的GPT-3（Generative Pre-trained Transformer 3，人工智能公司OpenAI訓練與開發的高級自然語言處理模型，是迄今最強大的人工智能語言工具）及各種變體已經能夠以超乎想象的流暢程度與人類進行對話以及進行特定領域的寫作，比如財經新聞、體育報道、法律文書、論文摘要……甚至模仿歷史上不同的作家風格進行創作。盡管生成內容質量還不夠穩定，且時常會犯一些常識性的錯誤，但目前也有科學家嘗試教會機器理解我們所身處的“世界模型”。可以說，我們已經生活在這樣的科幻現實中。如果科技真的到了我們無法分辨人類與機器的地步，哪怕只是語言層面上，都足以顛覆絕大部分行業及社會生活的面貌，因為人類無法離開語言進行思考、表達與交流。許多人類職業會被替代，企業會高度自動化。新一代兒童會更習慣與機器進行交流，相比之下人類交流笨拙而低效，充滿誤解。機器能夠無窮盡地生產出供人類娛樂的個性化內容，不輸歷史上任何經典的文學、影像或游戲。而最后的最后，我們不得不質疑意識與智能的本質，因為從表征上已無法區分人與機器，那么界限在哪？

如果從人類中心論的角度，未來無疑不站在我們這一邊。但如果將機器也視為我們文明延續的產物，那么我希望新的智能生命能夠建立起更可持續發展的文明形態，并平等地尊重所有物種包括非生命的環境本身。按照卡爾達肖夫指數（Kardashev Scale）對文明的分類，人類連全面利用行星級能源的一級文明都沒有達到，我們沒有任何理由自大甚至自戀，而應該以開放心態接受人類世作為通往更高級文明形態（在詹姆斯·拉夫洛克看來是純硅基生命的“新星世”）過渡期的命運。

那樣一種悲觀態度，或者說那種認為機器智能有可能建立一種更好的文明，也可能會讓有些人產生一種更極端想法。如書中《人類剎車計劃》中那位瘋狂科學家。你有沒有想過把這個人物做更加復雜化的處理，讓讀者隱隱覺得也許他那么做也有他的某種理由？

陳楸帆：確實是篇幅所限，想要放進去的內容有點多，人物只好做類型化臉譜化處理，如果有機會展開成更充裕的故事，應該給瘋狂科學家賦予更多復雜的情感關系與動機，比如他對于信仰的理解其實可以是一條線索。

你會同情這位瘋狂科學家的某些觀點嗎？

陳楸帆：我其實非常贊成瘋狂科學家的某些觀點，包括精英階層與科技巨頭社會感的缺失，包括氣候變化挑戰下國際社會的無動于衷各自為政，當然他采取了極端化的毀滅性手段來反擊，這點我是不贊同的。

那倒是，如果是超級機器智能想統治地球，估計也不用采取那么激烈的手段，完全可以不顯山不露水悄悄地做成這件事情，也許與此同時人類還會覺得越來越幸福。這本書里《幸福島》就講了一個由超級智能管理或者甚至統治的社會中，人會不會感到幸福的故事。我們知道人類的幸福感還有很大一部分來自創造感，如果創造性的工作都由機器來做了，人還能不能有幸福感？當然超級智能可能也會在這點上滿足人類，讓人類做一點自以為能獲得創造感的游戲，甚至直接干預人類大腦，刺激它們的自我獎勵機制，諸如此類。

陳楸帆：我覺得人類自古到今一直在追尋幸福，但最后發現也許跟“真實”與“美”一樣，只能替代性地追求一種對幸福的感受。而到了智能時代，機器與算法遠比我們人類要更了解自己，包括如何產生幸福感，不光是神經遞質與感官層面的刺激，也包括通過語義分析揭示無法被意識到的潛在情感結構。但是這樣被計算出來的幸福感是否真實，或只是一種幻覺。因為人類無可救藥地被捆綁在意義上，我們很難接受一種無意義的生活，哪怕從表征上是完美且幸福的，但缺乏意義感的建構會讓人類走向自我毀滅。

所以你確實對人類的前景沒有多少信心。這本書全部故事結束在假定的奇點之年來臨前，小說好像勉力提供了一種還可以說比較舒適的人類結局：抵達豐饒之年，人類與機器智能達成妥協，機器不僅給人帶來無限豐饒的物質，也給予你們想要的幸福感，人類向超級智能自動交出了自己的歷史，隨后，奇點來了，超級機器智能獲得了自我意識。機器智能會不會產生意識？通過計算能不能模擬意識？這個問題你怎么看？

陳楸帆：意識正如大衛·查默斯所說是一個難題，從還原主義的角度這些年我們細致分析了神經元、分子、離子層面的交流機制，繪制了連接組、突觸與神經遞質的圖譜。但這對于解答意識是什么，它如何產生并沒有太多實質性的推動。我直覺更傾向于羅杰·彭羅斯的看法，他認為意識是非計算性的，超越了現有神經科學、生物學與物理學的解釋，與我們如何更本質地理解現實相關——這關系到對于量子力學更深刻的洞察，它的非定域性（nonlocality）與疊加態（superposition）特征挑戰了我們現有的時空觀。而加州大學爾灣分校的計算認知學家唐納德·霍夫曼則把意識視為比時空更本質的存在，宇宙萬物都具備某種程度的意識，這就非常接近于神秘主義傳統中的泛靈論了。所以歸根結底，取決于我們如何定義與測量意識。機器當然能夠產生意識，但未必是通過計算，而無意識與有意識之間的界限也許并不像人們想象中那么明晰。

我看到一種說法，超級智能用不著意識，它不需要由意識來給“大腦”提供額外集中注意力，就算人腦，大部分運算也是在無意識中完成，對超級智能來說，它的運算能力如此龐大、如此無邊無際，它根本不需要集中注意力，所以當智能達到那個水平時，意識就成了一件無用之物，會被放棄。如果超級智能放棄了意識，那么它同時也就放棄了人類所有那些自我意識、同情，在那樣一個超級智能統治的星球上，你認為人類還有立足之地嗎？

陳楸帆：彼得·沃茨的《盲視》以及最新一季《愛死機》里面的“蟲群”其實說的就是這樣的無意識智能文明，自我意識對于它們來說是一種低效無用的冗余功能，就像盲腸一樣。但我同樣認為，在那樣的一種文明形態中會有不同水平的意識涌現，也許是宇宙級別的分布式意識，它成為了塑造時空與不同維度現實的基礎，而我們現在人類所謂的意識與文明，只不過是其中渺如煙塵的分型與投射。但仍然，人類有自己的命運，有自己的旅程，就像古希臘神話《奧德賽》一樣，奧德修斯歷經磨難，戰勝巨人與怪物，最后衣錦回鄉，但他已經不再是原來的自己，他回到的也并不是原來的故鄉。他領悟到更大的使命與歸屬，那種崇高感或許是跨越了一切物種與文明界限的終極意義。

你覺得寫一部科幻小說最困難的部分在哪里？故事情節？人物形象？技術/社會環境？你自己最多碰到的困難，或者說常常最需要花力氣的地方在哪里？

陳楸帆：我覺得整體上都很難，最難的可能是怎么把這些不同層面的信息整合成一個圓融的敘事體。而且隨著寫作經驗的豐富，它不是變得越來越容易，你的眼光、要求、想要達到的目標和擺脫的慣性都不一樣。對于我來說，現在最花力氣的地方反而是在最不花力氣的地方。這么說可能有點玄，它不在收集信息、理解科技、編排人物與拿捏故事原型，而是在于不經過理性思考判斷，從潛意識層面涌現的直覺，也就是“非計算性”的部分。你無法控制它的到來，很多時候只能祈禱。

從敘事本質的角度來看，科幻小說實際上可能是“反小說”的，因為至少在表面上，敘事必須在事件發生之后，但科幻小說是面向未來，講述那些未曾發生的事情，即便使用敘事裝置，假設敘述者是在“未來的未來”，但無論寫作或者閱讀，某種程度上總是需要去克服這種敘事或者感受上的時間倒置，相對來說科幻電影比較好辦，畢竟銀幕上一切事件都“正在發生”。你覺得科幻小說有沒有可能實現一種姑且說“現實主義”的風格？

陳楸帆：文學的時空錯置感也是它最美妙的地方，挑戰了讀者在閱讀文字過程中的線性時間體驗。不止科幻，包括傳統文學中的先鋒派、意識流、后現代主義等等被打上諸多標簽的亞文類都在打碎、拼貼、重組敘事中的時空。科幻可能最方便的一點是依靠科技邏輯將這種錯置合法化，帶來認知上更強的真實感，從而實現柯勒律治所謂的“懸置懷疑”。另外一方面，我們對于傳統“現實主義”的理解很大程度上是一種感官與文化的歷史建構，它未必反映了真正的“現實”，從這個角度上講，或許科幻所書寫描繪的種種復數的“現實”才更為貼近當前量子力學、復雜性科學與認知科學所試圖重新構建的現實藍圖。

你心目中有沒有那么一兩位科幻小說作家，或者幾部科幻小說，你認為即使把他們放在整個世界文學史框架下，也可以稱之為偉大作家，與莎士比亞、托爾斯泰等文豪巨匠并肩而毫無愧色？

陳楸帆：第一反應想到的名字包括斯坦尼斯拉夫·萊姆、厄休拉·勒古恩、菲利普·K. 迪克、亞瑟·C. 克拉克、特德·姜、瑪格麗特·阿特伍德、馮內古特、奧克塔維亞·E.巴特勒、阿爾道斯·赫胥黎、托馬斯·品欽、J. G. 巴拉德等等，盡管其中許多人并不是只寫科幻小說，甚至某些人非常抗拒被打上“科幻作家”的標簽，但他們的作品展現出來的認知推測性與陌生化美學，超越歷史與未來、科技與人文、東方與西方、已知與未知、人類與他者等等種種二元性，從更為宏大的宇宙視角思考人類文明命運的野心與使命感，“偉大”二字當之無愧。