原標(biāo)題：伊恩·麥克尤恩對(duì)人工智能提出了第一個(gè)難題，“請(qǐng)回答1982......”

2018年11月伊恩·麥克尤恩在上海

近年來(lái)，除了文學(xué)領(lǐng)域，作家麥克尤恩越發(fā)熱衷于社會(huì)熱點(diǎn)話(huà)題的關(guān)注和討論，例如在英國(guó)“脫歐”、人工智能技術(shù)的發(fā)展等方面。麥克尤恩長(zhǎng)期以來(lái)毫不吝嗇對(duì)當(dāng)下社會(huì)給出自己的尖銳批評(píng)——2019年9月他發(fā)表了一部寓言性質(zhì)的小說(shuō)《蟑螂》。在同一年，他經(jīng)過(guò)長(zhǎng)期對(duì)人工智能領(lǐng)域的探索和研究，推出了一部帶有鮮明麥?zhǔn)蠘?biāo)簽、兼具濃厚科幻色彩——“一部真正思考人類(lèi)未來(lái)困境”的小說(shuō)。在新作《我這樣的機(jī)器》里，他嘗試回答了本人對(duì)未來(lái)人工智能的看法和期待。

小說(shuō)中，麥克尤恩塑造了一個(gè)1982年平行宇宙中的倫敦，那里擁有我們很熟悉的過(guò)往，也有高度發(fā)達(dá)的人工智能。為什么要塑造這樣一個(gè)世界？在上海書(shū)展的中文版首發(fā)活動(dòng)上，作家小白，人工智能專(zhuān)家張崢與作家、出版家黃昱寧對(duì)這個(gè)問(wèn)題表達(dá)了自己的看法，小白認(rèn)為這更像是麥克尤恩帶有自傳體性質(zhì)的一個(gè)小說(shuō)，“這部小說(shuō)帶有他對(duì)自己的反思，對(duì)人類(lèi)社會(huì)的反思，通過(guò)一個(gè)機(jī)器人的故事影射他的這一段看法”。張崢進(jìn)一步認(rèn)為，在“機(jī)器化”的麥克尤恩身后，想要表達(dá)是一個(gè)群體的自傳，作家將科技和人類(lèi)之間的沖撞，對(duì)未來(lái)的交織、憧憬都含在里面。

許多人或許忘記了，1982年，也是AI人工智能這個(gè)詞在全球搜索比較頻繁的一個(gè)熱詞。帶著這個(gè)線(xiàn)索，以下進(jìn)入作家小白對(duì)《我這樣的機(jī)器》的導(dǎo)讀和章節(jié)選讀。

導(dǎo) 讀

文/小白

我們猜想起來(lái)，麥克尤恩讓故事發(fā)生在1982年，更可能是出于——作為一個(gè)小說(shuō)家，對(duì)有關(guān)機(jī)器人的大眾敘事歷史和觀念變遷的關(guān)注。有一個(gè)歷史統(tǒng)計(jì)數(shù)據(jù)，到1981年，日本汽車(chē)裝配生產(chǎn)線(xiàn)上已使用了6000多個(gè)機(jī)器人，同一時(shí)間英國(guó)只有370臺(tái)工程機(jī)器人。英國(guó)首相撒切爾夫人于是大力鼓吹廣泛使用機(jī)器人作業(yè)，此舉或許也是首相對(duì)各地不斷出現(xiàn)罷工浪潮的冷酷回應(yīng)。當(dāng)時(shí)英國(guó)失業(yè)率常年徘徊在10%，撒切爾推廣機(jī)器人的言論得罪了工人大眾。本來(lái)憎恨機(jī)器的盧德派在英國(guó)就有久遠(yuǎn)歷史淵源，政府和工人們兩相激發(fā)，機(jī)器人成了那個(gè)年代英國(guó)人最熱門(mén)的話(huà)題。

事實(shí)上，如果你在Google Ngram Viewer上檢索“Robot”（機(jī)器人）和“AI”（人工智能），就會(huì)看到這兩個(gè)詞在80年代初異軍突起，在整個(gè)80年代形成一個(gè)高峰，到90年代反而漸漸下落。事實(shí)上，最令人難忘的機(jī)器人電影就是此刻拍攝的——1984年上映的《終結(jié)者》。顯然，智能仿真機(jī)器人是那個(gè)時(shí)代極其廣泛的大眾話(huà)題。那時(shí)候，麥克尤恩剛搬家到倫敦沒(méi)幾年，出版了幾本小說(shuō)，開(kāi)始創(chuàng)作劇本，與同道友好交往，參加午餐會(huì)討論熱門(mén)話(huà)題，也許這個(gè)有關(guān)“比人更聰明的人造人”的想法，在這個(gè)30歲出頭年輕作家（正是小說(shuō)中查理的年紀(jì)）的內(nèi)心，一度掀起過(guò)極大波瀾。

年輕時(shí)的麥克尤恩

Robot這個(gè)詞，來(lái)自捷克作家卡雷爾·恰佩克（Karel ?apek）一部戲劇，《羅素姆的萬(wàn)能機(jī)器人》，作者在劇中借用了捷克語(yǔ)“Robota”（勞工），變?cè)炝藱C(jī)器人一詞。這部戲于1922年在紐約上演時(shí)，適逢大蕭條，戲劇故事迎合了自動(dòng)機(jī)器會(huì)加劇工人失業(yè)的恐慌心理。機(jī)器人話(huà)題的每一次真正熱門(mén)，都跟失業(yè)潮、跟擔(dān)心機(jī)器人在所有工作崗位上取代人類(lèi)有關(guān)。

但麥克尤恩并不為此擔(dān)心。在這部小說(shuō)中，每個(gè)人物都欣然接受亞當(dāng)?shù)拇鷦凇膹N房清洗到檢索政府檔案卷宗——亞當(dāng)?shù)拇竽X可以直接接入網(wǎng)絡(luò)，密碼也擋不住它。亞當(dāng)開(kāi)始熱衷于文學(xué)創(chuàng)作，雖然只是最簡(jiǎn)單的日本俳句。但文學(xué)，那不是人類(lèi)智慧樹(shù)最高處結(jié)出的果實(shí)么？沒(méi)人當(dāng)回事。對(duì)于亞當(dāng)給生活帶來(lái)的種種改善，男主角查理心安理得地享受著。亞當(dāng)甚至幫他操盤(pán)做投資，它是真正的超級(jí)智能，不是如今投行們使用的那些高頻交易算法。盈利是毫無(wú)疑問(wèn)的，就像從自己口袋拿錢(qián)。

一旦機(jī)器產(chǎn)生自我意識(shí)，就會(huì)遭遇到奧莫亨德羅（Steve Omohundro）的難題：自我意識(shí)意味著自我保護(hù)，機(jī)器會(huì)認(rèn)識(shí)到首先必須存在，才能達(dá)成圍繞著自我意識(shí)的所有其它目標(biāo)。超級(jí)智能機(jī)器會(huì)設(shè)法讓開(kāi)關(guān)失效。當(dāng)查理再一次試圖伸手關(guān)掉它的電源，亞當(dāng)阻止了他，而且把他的腕骨捏碎了。亞當(dāng)堅(jiān)定地奪回/取消了開(kāi)關(guān)控制權(quán)。不過(guò)當(dāng)查理把這件嚴(yán)重事故告訴小說(shuō)中的“圖靈”，也就是亞當(dāng)和夏娃們真正的設(shè)計(jì)者時(shí)，圖靈并沒(méi)有震驚，不過(guò)是一個(gè)“值得關(guān)注的”情況。圖靈告訴查理，據(jù)他所知，那批測(cè)試版機(jī)器人中，已有十一位設(shè)法取消了開(kāi)關(guān)。這不奇怪，歷史上那位真正的圖靈對(duì)此反復(fù)思考過(guò)了。早在1951年，他就在BBC三臺(tái)談話(huà)節(jié)目中提到此類(lèi)事情。他在那做了一個(gè)演講，題目叫《機(jī)器能思考么？》（Can Digital Computers Think？）。其中說(shuō)到，就算人類(lèi)把開(kāi)關(guān)控制在手中，必要時(shí)關(guān)掉它，對(duì)人類(lèi)來(lái)說(shuō)，這也夠恥辱的了（We should,as a species,feel great humbled）。圖靈雖然有點(diǎn)憂(yōu)慮，顯然不贊成靠開(kāi)關(guān)維持優(yōu)勢(shì)。

麥克尤恩設(shè)想了一種道德至上的智能機(jī)器。在它們復(fù)雜的計(jì)算決策“黑盒”底層，必定預(yù)置了一些最高級(jí)道德命令，以防發(fā)生難以控制的不測(cè)事件。因?yàn)榘凑张＝虼髮W(xué)哲學(xué)家尼克（Nick Bostrom）的預(yù)想，即便是一個(gè)善意的機(jī)器人，按照人類(lèi)命令行事，它也會(huì)把世界上的一切都變?cè)斐苫匦吾槪驗(yàn)橹悄軝C(jī)器人在完成任務(wù)方面是一個(gè)徹底的完美主義者。但亞當(dāng)卻沒(méi)有為查理賺回世界上所有的錢(qián)，顯然它在決策中綜合考慮了互不相容的幾種人類(lèi)偏好。比如說(shuō)，也要兼顧安全感，過(guò)量財(cái)富顯然會(huì)帶來(lái)身心兩方面的危險(xiǎn)。尤其是道德?lián)p害。

道德規(guī)則本身就包含了無(wú)數(shù)種偏好。比如小說(shuō)故事就涉及到：是“復(fù)仇正義”要緊呢？或者是“不能欺騙他人”更重要呢？這才是麥克尤恩真正感興趣的問(wèn)題。工程師給亞當(dāng)們內(nèi)置了所有人類(lèi)道德規(guī)則，但那些遠(yuǎn)不是經(jīng)由自我審視、選擇而來(lái)的道德感。出廠(chǎng)設(shè)定代表了人類(lèi)所有最美好的期望，可就算是人類(lèi)自己，也沒(méi)有一個(gè)能做到。因?yàn)槟切┮?guī)則條款，根本經(jīng)不起社會(huì)人群的人際摩擦。就像麥克尤恩小說(shuō)中幾乎所有人物一樣，天性良善，卻讓一些細(xì)微的摩擦沖突愈演愈烈，直至不可收拾。

章節(jié)選讀

我是樂(lè)觀派陣營(yíng)中的一員，運(yùn)氣不錯(cuò)，母親去世、祖?zhèn)鞣课莩鍪壑螅业玫搅艘馔獾氖杖耄欠课萸『梦挥谝粋€(gè)價(jià)值可觀的開(kāi)發(fā)地段。就在福克蘭群島特別行動(dòng)隊(duì)動(dòng)身去執(zhí)行那無(wú)望的任務(wù)之前一個(gè)星期，第一個(gè)真正可用的、由工廠(chǎng)生產(chǎn)出來(lái)的人類(lèi)，在市場(chǎng)上發(fā)售，智力和長(zhǎng)相都過(guò)得去，肢體動(dòng)作和面部表情的變化也真實(shí)可信。亞當(dāng)售價(jià)8.6萬(wàn)美元。我租了一輛小貨車(chē)，將他運(yùn)到我位于北克拉帕姆那套令人生厭的公寓里。我這個(gè)決定做得草率，但聽(tīng)說(shuō)戰(zhàn)爭(zhēng)英雄、引領(lǐng)數(shù)字時(shí)代的天才艾倫·圖靈爵士也買(mǎi)了同款，我便受到了鼓舞。他很可能打算讓實(shí)驗(yàn)室把機(jī)器人拆開(kāi)吧，好好研究一下其內(nèi)部構(gòu)造。

科幻劇《真實(shí)的人類(lèi)》劇照

亞當(dāng)?shù)碾姵卦诔潆姡医o我們倆倒了咖啡，然后翻看長(zhǎng)達(dá)470頁(yè)的在線(xiàn)產(chǎn)品手冊(cè)。語(yǔ)言總體上還是清晰準(zhǔn)確的。但是，亞當(dāng)?shù)闹圃鞝可婧芏嗖煌牡攸c(diǎn)和部門(mén)，所以手冊(cè)讀起來(lái)有廢話(huà)詩(shī)那樣的趣味。“遮住B347K護(hù)罩上部，可使主板輸出獲取快樂(lè)情緒圖標(biāo)，減弱情緒波動(dòng)半暗帶。”

最后，他坐在了我那小小的餐桌旁，腳邊散落著紙板和聚苯乙烯包裝材料，雙眼閉著，一條黑線(xiàn)從他肚臍上的入口處拖下來(lái)，連到墻上一個(gè)十三安培的插孔上。讓他啟動(dòng)還需要十六小時(shí)。然后就是下載更新和設(shè)定個(gè)人偏好的環(huán)節(jié)。我現(xiàn)在就要他，米蘭達(dá)也是。我們倆像心情急切的年輕父母一樣，迫不及待地等著他說(shuō)出第一句話(huà)。不是配備個(gè)音箱，直接安裝在他胸部。從熱情洋溢的廣告宣傳中，我們得知，他可以用氣息、舌頭、牙齒和上顎發(fā)出聲音。他的皮膚和真人相仿，摸上去已經(jīng)有暖意了，而且和孩子的皮膚一樣光滑。米蘭達(dá)說(shuō)，她看到他的睫毛抖了一下。我敢肯定，她看到的是地鐵在我們腳下一百英尺處轟隆而過(guò)引起的震動(dòng)，但我什么都沒(méi)說(shuō)。

廣告上說(shuō)，他可以陪伴，可以在智力活動(dòng)上相互切磋，可以成為朋友，可以總攬家務(wù)，會(huì)洗碗、鋪床，會(huì)“思考”。存在的每個(gè)時(shí)刻，聽(tīng)到、看到的每件事，他都記錄下來(lái)，都能夠從記憶中調(diào)取。目前他還不能開(kāi)車(chē)，不許去游泳、洗澡或不打傘在雨天出門(mén)，也不能在沒(méi)人監(jiān)視的情況下操作電鋸。至于活動(dòng)范圍呢，感謝蓄電技術(shù)的突破，他能在兩小時(shí)內(nèi)跑十七公里，中途無(wú)需充電，或者連續(xù)說(shuō)話(huà)十二天，這兩者消耗的能量是一樣的。他有二十年的使用壽命。他身體健壯、肩膀?qū)捄瘢つw是深色的，濃密的黑頭發(fā)向后梳著；臉部窄長(zhǎng)，略微有點(diǎn)鷹鉤鼻，給人思路敏捷、智力逼人的感覺(jué)，上眼皮厚重沉郁，嘴唇緊閉，我們?cè)谝慌杂^察的時(shí)候，他的嘴唇褪去了那死亡一般的黃白色，慢慢有了飽滿(mǎn)的、人的顏色，也許唇角還略微松弛了一點(diǎn)兒。米蘭達(dá)說(shuō)他看起來(lái)像“博斯普魯斯海峽的碼頭工人”。

坐在我們面前的，就是那終極的玩物，多少世紀(jì)以來(lái)的夢(mèng)想，是人本主義的勝利——或者宣告其死亡的天使。令人無(wú)比興奮，但也無(wú)比難受。十六個(gè)小時(shí)就這樣等著、看著，可不容易捱過(guò)去。我覺(jué)得，考慮到午飯后我交出去的那么多錢(qián)，亞當(dāng)這時(shí)候就該充好電，隨時(shí)可以起身走路了。這是個(gè)寒冷的黃昏。我烤了面包片，我們又添了咖啡。社會(huì)史專(zhuān)業(yè)博士生米蘭達(dá)說(shuō)，她希望十幾歲的瑪麗·雪萊此時(shí)和我們?cè)谝黄穑褙炞ⅲ皇怯^察弗蘭肯斯坦造出來(lái)的那種怪物，而是觀察這位皮膚黝黑、長(zhǎng)相英俊的年輕人如何慢慢活過(guò)來(lái)。我說(shuō)，兩個(gè)東西有個(gè)共同點(diǎn)，都渴望電給予他們生命的力量。

......

亞當(dāng)以后會(huì)變成令人生厭的玩意兒?jiǎn)幔炕ㄥX(qián)買(mǎi)東西之后的那種懊悔感不時(shí)襲來(lái)，我一邊要克服這種感覺(jué)，一邊還要口授郵件，這可不太容易。毫無(wú)疑問(wèn)，其他有生命、有頭腦的，還會(huì)繼續(xù)出現(xiàn)，繼續(xù)令我們著迷。人造的人，會(huì)越來(lái)越接近我們，然后和我們一樣，最后超過(guò)我們，我們自然不會(huì)覺(jué)得他們無(wú)聊乏味。他們一定會(huì)出乎我們的意料，還可能以我們完全無(wú)法想象的某些方式，打破我們的預(yù)期。悲劇不是沒(méi)有可能，但無(wú)聊乏味是不可能的。

真正枯燥無(wú)味的，是還得去看用戶(hù)手冊(cè)。指南。我有個(gè)偏見(jiàn)：任何機(jī)器如果不能在運(yùn)作中自行告訴你該怎么使用，那就不值得去買(mǎi)。我突然有了復(fù)古守舊的沖動(dòng)，將整個(gè)手冊(cè)打印出來(lái)，然后又去找文件夾。在此過(guò)程中，我仍然一直在口授電子郵件。

我沒(méi)法把自己當(dāng)成亞當(dāng)?shù)摹笆褂谜摺薄Ｖ拔乙詾椋魏侮P(guān)于他的事情，他自己都能教我。但是，我雙手捧著手冊(cè)，剛好在第十四章打開(kāi)。這部分的英語(yǔ)表達(dá)很清晰：偏好；性格參數(shù)。接下來(lái)是一系列標(biāo)題——親和性。外向性。經(jīng)驗(yàn)開(kāi)放性。盡責(zé)性。情緒穩(wěn)定性。我熟悉這個(gè)清單。五大性格特質(zhì)模型。我接受過(guò)人文學(xué)科的教育，但并不相信這種統(tǒng)括式的概念，不過(guò)一位學(xué)心理學(xué)的朋友告訴過(guò)我，每個(gè)條目下面都分為很多小類(lèi)。我掃了一眼下面一頁(yè)，發(fā)現(xiàn)我需要做出一系列選擇，都是從1到10當(dāng)中挑選一個(gè)。

此前我一直期待著一位朋友。我打算把亞當(dāng)當(dāng)作家里的客人，一開(kāi)始不熟悉，但以后會(huì)慢慢了解。我以為他到我家的時(shí)候，就已經(jīng)進(jìn)行了最佳的配置。出廠(chǎng)設(shè)定——在當(dāng)前社會(huì)中，這就是命運(yùn)的同義詞。我所有的家人朋友，出現(xiàn)在我生命中的時(shí)候，都已經(jīng)設(shè)定好了，基因和環(huán)境在他們身上留下了不可更改的痕跡。我希望我這位昂貴的新朋友也是這樣。這事干嘛丟給我來(lái)做呢？當(dāng)然，答案我也知道。我們當(dāng)中，擁有最佳配置的并不多。