圖為科幻電影《終結者》中的金屬機器人。CFP

【縱深報道】

2029年，人類和智能機器人之間的一場大戰(zhàn)打響：機器人“終結者”奉命殺死約翰·康納的母親莎拉·康納——這是由詹姆斯·卡梅隆于1984年創(chuàng)作的5部系列電影的序曲?？苹米骷覜]有料想到，如今的科技已經可以制造出這樣的機器人：它們一旦被授予使命后，會自發(fā)地做出殺人甚至暴動的決定。

這些機器人殺手在國際軍備討論中有一個恰如其分的名字：LAWS（Lethal Autonomous Weapons Systems，致命性自主武器系統(tǒng)）。這種機器人已經登上了歷史的舞臺，將它們帶到戰(zhàn)場上會引起各種各樣的爭議：如何定義這些機器人？它們到底能做什么？戰(zhàn)場上的倫理問題如何解決？

1942年，著名的美籍俄羅斯裔科幻作家艾薩克·阿西莫夫在《驚奇科幻小說》中提出了機器人的倫理問題，他被世人視為機械倫理學之父。阿西莫夫在1942年出版的小說《轉圈圈》中描述了機器人三定律。他提出，所有的機器人程序都必須考慮到這三條定律，目的是為了約束這些自主機器人的行為，讓它們服從以保護人類為目的的強制性道德準則。

■阿西莫夫機器人定律

第一定律：機器人不得傷害人類，或坐視人類受到傷害；

第二定律：除非違背第一法則，否則機器人必須服從人類的命令；

第三定律：在不違背第一及第二法則下，機器人必須保護自己。

此后，阿西莫夫又添加了一條定律，即第零定律：機器人不得傷害人類族群，或因不作為使人類族群受到傷害。

機器人遵守這些定律而引發(fā)的困局是阿西莫夫所著500本書籍的主題。他嚴肅地思考了這些定律的意義，并想象了這些定律被采納時發(fā)生的情形。然而時至今日，阿西莫夫關于機械倫理的設想并未如愿：如今的機器人并沒有安裝強制它們服從機器人定律的機制或指令。為什么會這樣呢？

圖為民眾抗議殺人機器人的研發(fā)。資料圖片

■無法服從機器人定律

現(xiàn)在的機器人擁有的功能和人們當初設想的不太一樣?？萍疾]有讓我們憑空創(chuàng)造出和自己一樣的東西，我們并不能像對待奴隸或傭人那樣指使它們。機器人以及智能系統(tǒng)的產生并非一蹴而就，因為科技總是沿著意想不到的方向前進。這樣一來，如何準確區(qū)分機器人和智能系統(tǒng)就變得十分棘手。

駕駛飛機平安降落的自主系統(tǒng)能否稱為機器人？它是否具有智能？我們很容易得出否定的答案。這個自主系統(tǒng)操作飛機的能力和人類飛行員一樣好，而且對自己的方位了如指掌，所以才能讓飛機準確降落。雖然它的功能很有限，但在降落飛機這項人命關天的任務上，它和人類相比毫不遜色。

現(xiàn)代社會中機器人的工作非常專業(yè)化，它們不具備與人類用通俗語言交流的能力。我們無法要求它們遵守阿西莫夫的機器人定律，因為它們完全不能理解這些定律的意義。如果想要應用機器人定律，智能系統(tǒng)必須具備邏輯分析和推理能力，并且能夠預測行為所導致的后果，以判斷人類下達的指令是否和任何一條定律相悖。但目前，機器人還不能進行這樣的分析。

美國iRobot公司的創(chuàng)始人羅德尼·布魯克斯曾就上述問題直白地表達了自己的觀點。媒體問他，為何iRobot生產的機器人不能自動遵守阿西莫夫定律，他回答，“理由很簡單，我們根本沒法把阿西莫夫的定律寫入它們的系統(tǒng)中。”雖然未來的智能系統(tǒng)可能會隨著科技的進步而發(fā)展出智力，并且智能系統(tǒng)中負責自主抉擇的組件會獲得性能提升，但這種機器智力和人類智力仍然不可同日而語。也就是說，科幻作家當初讓機器人理解和服從阿西莫夫定律的希望，現(xiàn)在已經變成了一件異想天開的事。但是，這并非意味著討論機械倫理問題就是多此一舉。因為在自動駕駛領域，相關研發(fā)已經進行了許多年，多家公司設計的性能穩(wěn)定的產品也將進入市場，因此討論機械倫理問題的時機已經成熟。

圖為美國的無人機。資料圖片

■機器人的道德問題

設想這樣一個場景：一輛高速行駛的無人駕駛汽車前方，出現(xiàn)了一個追逐皮球而橫穿馬路的孩子，而逆向車道上有一個騎著自行車的成年人。此時，自動駕駛系統(tǒng)經過分析會有兩種選擇：一是減速但維持前進方向不變，這樣有可能撞到孩子；二是減速并向左轉向，這將會威脅到騎行者的安全。自動駕駛系統(tǒng)應該如何抉擇？撞向孩子還是成年人？

經常有媒體表示，自動駕駛汽車可媲美人類司機，這也是一些汽車制造商在標榜安全性時提到的新賣點。這種觀點的受眾范圍很廣，讓我們很難在未來禁止自動駕駛汽車。在理想情況下，它們的反應和決策能力確實是無可挑剔的：它們能夠根據預設的程序決定，到底是選擇挽救追皮球的孩子，還是騎自行車的人。

那么應由誰來制定機器人的道德規(guī)則？又該如何制定這種道德規(guī)則？要回答這些問題并不容易，但是不可避而不談。如一些研究者證明的那樣，在邏輯學家看來，有些道德問題的邏輯過于復雜甚至是不可判定的。

現(xiàn)在的機器人沒有被預裝阿西莫夫定律的另一個原因是：我們制造某些機器人的目的就是為了殺戮。這已經變成了一個嚴重的問題，值得我們思考和討論。

人類制造用來殺戮同類的機器人已經有數十年的時間，而且只要“機器人”“自主性”和“殺戮”這個三個特性一同出現(xiàn)，情況就變得十分棘手。拿地雷舉例，我們可以說它具有自主性，因為當它“覺察”到四周出現(xiàn)物體時會“決定”爆炸，而這個決定并不需要人類的許可。美國在許多戰(zhàn)場上使用的無人機其實是遠程遙控的，通常情況下，它們在投放武器前會等待操作員給出明確的指令。不過在執(zhí)行對地打擊任務時，它們同樣造成了不小的傷害，奪取了許多無辜者的生命。一些無人機可以在自動模式下工作，自行決定是否開火，并不需要人類的干涉。

在聯(lián)合國于2013年發(fā)表的一份報告中，南非比勒陀利亞大學的法學教授克里斯托弗·海因斯認為，自主殺人機器人已經在一些國家的軍方實驗室誕生了，并且磨刀霍霍準備開始行動。毫無疑問，人類能夠創(chuàng)造并利用具有部分智力的自主軍事武器，把它們派遣到地面戰(zhàn)場上或空中去搜索敵人。無須人類許可，它們就能自己辨認并消滅目標。就算我們假定在戰(zhàn)斗決策中有人類存在，如果不對這些機器人自主性的深層概念進行調整的話，它們仍可以撇開人類獨自執(zhí)行任務。

■我們要往何處去？

現(xiàn)在，我們需要回答的問題可歸結為：我們是否真的希望在這條路上走下去？是否應該限制或者禁止使用自主殺人機器人？

在為這些武器系統(tǒng)辯護的論據中，有兩條關鍵的理由。首先，現(xiàn)在采取任何措施都已太遲，這些系統(tǒng)已經存在。其次，這些機器人終有一日會變得更為精準，它們會更加尊重平民和交戰(zhàn)規(guī)則?？偠灾?，這些武器能夠讓戰(zhàn)爭和沖突變得更為“干凈”。

第一條論據可以被輕松反駁。人類已經制造出了核武器、化學武器以及細菌武器，但這不能阻止各國簽訂國際條約來管理和禁止這些武器。這些協(xié)議的簽訂有效限制了上述武器的使用。因此，各國政府可以協(xié)商一致，停止自主殺人機器人的研發(fā)?，F(xiàn)在這個問題已被搬上了國際法庭進行討論。

第二條論據——殺人機器人可使戰(zhàn)爭變得更加“干凈”是無效的。實際上，這條論據等同于將“只攻擊敵人”“不要攻擊平民”等道德準則強加給殺人機器人。然而，我們連怎樣將阿西莫夫的機器人定律寫入系統(tǒng)代碼都做不到，這些道德準則更是無從談起。

或許，當我們研發(fā)出具備更加先進分析能力的機器人時，再重新考慮這個問題也不遲。但就目前而言，我們無法編寫出類似于阿西莫夫機器人定律的道德規(guī)范。機器人需要有精確移動的能力，能夠向人類或非人類目標快速而準確地開火，但它們不能決定是否開火，以及對誰投放致命的火力。

一封發(fā)表在2015年7月的公開信得到了2萬人左右的簽名，簽名者是人工智能領域的專家以及其他對此話題頗為關切的人，其中包括著名物理學家斯蒂芬·霍金以及蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克。這封公開信要求停止研發(fā)具有殺人能力的自主系統(tǒng)，并表示這些系統(tǒng)可以被恐怖分子當作武器。

自主殺人機器人的問題比其他類型的武器（如核武器）更嚴重，因為自主殺人機器人的技術研發(fā)比較分散。機器人是由眾多程序和相對容易獲取的硬件制造而成的。但是，其軟件易于復制和傳播，這與核武器完全不同。機器人技術領域的任何進步都有可能被最邪惡的恐怖分子盜取。

■機器人的反叛

那么，如何避免程序漏洞，使得殺人機器人不會攻擊人類？或許一行不巧被刪掉的代碼就能產生這樣的漏洞，我們是否可以把機器人的這種行徑視為反叛？這個問題和人類的追責機制類似。即使殺了人，精神病患者是不用負刑事責任的。因此，需要定義什么叫“機器人發(fā)瘋”。最為可能的情況是，機器人出現(xiàn)了軟件故障。機器人反叛的真正問題首先在于如何定義反叛，而想要給出這項定義卻困難重重。如何區(qū)分愚蠢的故障和有意為之的反叛呢？

美國康涅狄格大學著名機器人倫理問題專家蘇珊·安德森提出，機器人造反實際上可能是正當的。在她看來，道德學巨匠伊曼努爾·康德就曾間接地討論過智能機器人的問題。她重新審視了阿西莫夫的機器人定律：如果“機器人”有能力理解并實踐機器人定律，那么我們是否有權將這些定律強加于它們，并要求它們成為人類的奴隸呢？

蘇珊·安德森指出，按照康德的觀點，人類欠動物一份尊重，因為只有我們尊重它們，它們才會尊重我們。她認為依據同樣的道理，如果康德也曾思考過機器人的問題，他可能會支持這樣一種觀念：如果有一天能夠理解機器人定律的機器人真的出現(xiàn)了，那么我們應當尊重它們，向它們強加機器人定律也就無從談起了。

科幻作品以輕松愉快的方式處理了這些與現(xiàn)實相距甚遠的問題，科學和哲學又迫使我們重新思考。我們亟須對目前已經出現(xiàn)的機器人進行公正的評估并采取相應的手段。這些復雜的評估任務包含了許多難解的倫理和哲學謎題，而其中一些迫切需要答案。哲學家、倫理學家、軍方人士和軟件工程師應當展開討論并達成一致的意見。

（作者為法國里爾第一大學計算機基礎科學學院教授，本文由《環(huán)球科學》雜志社供稿）