在“機(jī)器人三定律”之外

迄今為止，“機(jī)器人學(xué)”（robotics）已經(jīng)成為現(xiàn)代科學(xué)技術(shù)中的重要學(xué)科，其中“機(jī)器人倫理”的問(wèn)題一直都是西方自然科學(xué)和人文學(xué)科的研究熱點(diǎn)之一。當(dāng)代機(jī)器人學(xué)所熱衷探討的“機(jī)器人倫理”問(wèn)題包括倫理標(biāo)準(zhǔn)問(wèn)題（如何樹(shù)立機(jī)器人的倫理標(biāo)準(zhǔn)，即如何判斷“對(duì)錯(cuò)”）、環(huán)境倫理問(wèn)題（人和機(jī)器人的資源共享或沖突）、生命倫理問(wèn)題（機(jī)器人的機(jī)器性與人性的構(gòu)成與比例）等。在這一領(lǐng)域，被譽(yù)為“機(jī)器人倫理學(xué)基石”的是著名的“機(jī)器人三定律”（或稱“機(jī)器人學(xué)三法則”）。作為一種機(jī)器人倫理前瞻，阿西莫夫“機(jī)器人三定律”的核心理念在于，科學(xué)家所制造的機(jī)器人，并非是同自己作對(duì)的敵人，而是要服從人的命令，為人類服務(wù)。也就是說(shuō)，機(jī)器人和人類的倫理關(guān)系更類似于一種“主仆”關(guān)系，人類擁有對(duì)于機(jī)器人的絕對(duì)掌控權(quán)和領(lǐng)導(dǎo)權(quán)。然而，隨著20世紀(jì)末和21世紀(jì)人類科技的發(fā)展和觀念的轉(zhuǎn)變，這樣一種“服務(wù)型”關(guān)系，逐漸演變成一種“伴侶型”關(guān)系。尤其在未來(lái)的50年內(nèi)，機(jī)器人設(shè)計(jì)理念的主潮將會(huì)由提供日常服務(wù)和機(jī)器作業(yè)，轉(zhuǎn)變?yōu)樘峁┚衽惆楹蜕眢w慰藉。大衛(wèi)·李維（David Levy）在《與機(jī)器人的性與愛(ài)》一書(shū)中明確地表達(dá)了這一觀點(diǎn)：

在21世紀(jì)開(kāi)始之時(shí)，人工伴侶——機(jī)器人丈夫、機(jī)器人妻子、機(jī)器人朋友和機(jī)器人愛(ài)人的觀念開(kāi)始逐漸挑戰(zhàn)人們對(duì)于“關(guān)系”的定義。而在此之前，人類和機(jī)器人之間主要是一種主人和奴隸、人和機(jī)器的關(guān)系。[1]

相比于服務(wù)型人機(jī)倫理關(guān)系，陪伴型人機(jī)倫理關(guān)系具有一個(gè)突出的特征，就是情感的牽涉與互動(dòng)。對(duì)于人類而言，無(wú)論將機(jī)器人看作寵物、朋友、工作伙伴、戀人抑或親人，都會(huì)在機(jī)器人身上投注情感，這在倫理關(guān)系上比簡(jiǎn)單的服務(wù)型雇傭關(guān)系要復(fù)雜和微妙得多。在這些關(guān)系中，尤其以戀人式的人際關(guān)系最為“離經(jīng)叛道”。這里所牽涉的問(wèn)題還并不止于情感的投射——隨著科技的發(fā)展，與機(jī)器人的性關(guān)系也可能會(huì)成為21世紀(jì)的發(fā)展趨勢(shì)。這樣的一種“人機(jī)戀”甚至是“人機(jī)性”必將對(duì)于人類的既定倫理和道德規(guī)范產(chǎn)生強(qiáng)烈的沖擊和深遠(yuǎn)的影響。

“人機(jī)戀”的小說(shuō)與電影

在虛構(gòu)場(chǎng)域，這樣一種人與機(jī)器人談戀愛(ài)甚至做愛(ài)的情節(jié)，在20世紀(jì)尤其是后半葉的科幻小說(shuō)和電影中并不乏見(jiàn)。這些科幻作品往往刻畫(huà)機(jī)器人同人類之間的情感關(guān)系（愛(ài)情、友情、親情），尤其是將“情感”的“自由意志”等人類特性賦予了機(jī)器人。這些小說(shuō)不斷改變著人類對(duì)于機(jī)器人的既定認(rèn)識(shí)和倫理關(guān)系，也在客觀上推動(dòng)著“陪伴型”機(jī)器人產(chǎn)品的設(shè)計(jì)研發(fā)。

盡管具有爭(zhēng)議，但大多數(shù)的科幻研究學(xué)者都將瑪麗·雪萊于1818年創(chuàng)作的《弗蘭肯斯坦》作為科幻小說(shuō)的開(kāi)山之作。這篇小說(shuō)寫(xiě)的就是人造人的故事，其中的怪物就是科學(xué)家弗蘭肯斯坦利用死人的器官拼湊而成的。這一怪物暗含了人性的兩種特質(zhì)——善與惡，他本來(lái)秉性善良，但由于遭到人們的嫌惡和歧視，于是變成了殺人惡魔。這部小說(shuō)并未牽涉“人機(jī)戀”的問(wèn)題，但這一孤獨(dú)寂寞的原型成為后來(lái)很多小說(shuō)和影視作品中人物形象的來(lái)源。例如，在1990年由蒂姆·波頓執(zhí)導(dǎo)的電影《剪刀手愛(ài)德華》中，雪萊小說(shuō)中的怪物原型就演變?yōu)榭释麗?ài)情的機(jī)器人愛(ài)德華。雖然也被人類嫌棄鄙夷，但愛(ài)德華依然保持善良的品性，而且無(wú)怨無(wú)悔地愛(ài)著少女金。“弗蘭肯斯坦”式的愛(ài)情故事，在愛(ài)德華這一機(jī)器人的身上續(xù)寫(xiě)得唯美而哀傷。

圖1 電影《剪刀手愛(ài)德華》（1990年）劇照

作為創(chuàng)造“機(jī)器人”（robot）這一詞語(yǔ)的作品，1920年捷克作家恰佩克的《羅素姆萬(wàn)能機(jī)器人》描寫(xiě)了一群被人類制造出來(lái)，用以為人類勞動(dòng)和服務(wù)的機(jī)器人。而后，這些機(jī)器人在被改進(jìn)并擁有了思想后，便開(kāi)始反抗人類并發(fā)動(dòng)暴亂。這部作品和《弗蘭肯斯坦》一起，奠定了早期科幻小說(shuō)中機(jī)器人作為人類對(duì)立面的“惡魔化”性質(zhì)。這部作品雖然重在描寫(xiě)人類和機(jī)器人之間的沖突，但它在結(jié)尾處還是涉及了一點(diǎn)機(jī)器人的情感問(wèn)題。由于機(jī)器人無(wú)法生育，因此最后只剩下一男一女兩個(gè)機(jī)器人。人類工程師威脅要解剖他們，他們卻互相庇護(hù)，同時(shí)感受到人類的思想和情感，于是在某種程度上成了新的亞當(dāng)和夏娃。這樣一個(gè)結(jié)尾，留給后來(lái)的科幻小說(shuō)家無(wú)限空間，去挖掘和描寫(xiě)機(jī)器人的情感歷程。

在20世紀(jì)30年代以后開(kāi)始的科幻“黃金時(shí)代”中，有關(guān)機(jī)器人的科幻小說(shuō)日益增多，并開(kāi)始描寫(xiě)由鋼鐵和金屬構(gòu)成的機(jī)器人，它們大都是“鋼鐵工人”。在這類科幻小說(shuō)中，貢獻(xiàn)最大的是阿西莫夫。作為科幻小說(shuō)史上重要的大師之一，阿西莫夫?qū)懥艘幌盗袡C(jī)器人題材的短篇小說(shuō)以及長(zhǎng)篇小說(shuō)“機(jī)器人三部曲”（《鋼窟》《裸陽(yáng)》《曙光中的機(jī)器人》）。從阿西莫夫開(kāi)始，機(jī)器人不再作為人類的敵人出現(xiàn)，而是成了人類的朋友和仆人。在人類和機(jī)器的倫理關(guān)系上，相比愛(ài)情，阿西莫夫更側(cè)重于描寫(xiě)友情、主仆關(guān)系，或者一種類似于同事的合作關(guān)系。然而，根據(jù)其小說(shuō)改編的電影出于商業(yè)考量，則十分注重表現(xiàn)愛(ài)情故事，無(wú)論是《我，機(jī)器人》還是《機(jī)器人管家》等，都是如此。

或許是由于倫理道德規(guī)范和秩序的約束，“人機(jī)戀”這一題材的科幻文學(xué)作品其實(shí)并不多，但還是有一些科幻作家挑戰(zhàn)了這一倫理禁區(qū)。在萊斯特·德?tīng)枴だ滓粒↙ester Del Rey）的小說(shuō)《海倫》（1938）中，工程師戴維將一個(gè)家用機(jī)器人改造升級(jí)成為擁有感情的個(gè)體，他們兩個(gè)相愛(ài)并結(jié)婚了。而后，機(jī)器人不得不痛苦地面對(duì)工程師死后的孤獨(dú)和思念。雷·布拉德伯里（Ray Bradbury）的小說(shuō)《馬里奧納特公司的機(jī)器人》（1949）中的男主人沉溺于工作，于是用一個(gè)復(fù)制于自身的機(jī)器人代替他履行丈夫職責(zé)，但機(jī)器人和他的妻子彼此產(chǎn)生了深深的愛(ài)慕和依賴。另外，在伊拉·列文（Ira Levin）的小說(shuō)《復(fù)制嬌妻》（1972）中，斯戴佛（Stepford）這個(gè)小鎮(zhèn)上的男人們串通起來(lái)，密謀用百依百順的機(jī)器人來(lái)逐一取代他們的妻子，卻遭到她們的反對(duì)和抵抗。這部作品后來(lái)在2004年被改編成大熱的好萊塢同名電影。

20世紀(jì)后半期以來(lái)，隨著科幻影視作品的增多，一些科幻電影或電視劇涉及了“人機(jī)戀”甚至“人機(jī)性”的主題。例如，在美國(guó)的長(zhǎng)壽肥皂劇《我們的日子》中，主人公尤金從未來(lái)帶回了他在未來(lái)社會(huì)制造的妻子機(jī)器人副本，后來(lái)從未來(lái)追蹤而來(lái)的神秘男子將尤金的妻子帶走了，留下尤金和機(jī)器人幸福地生活在一起。另外，在美國(guó)電視劇《我的玩偶》（1964）中，女機(jī)器人羅達(dá)被送至空軍處工作，卻同她的上司談起戀愛(ài)并認(rèn)真生活起來(lái)。在電影《王牌大賤諜》第一部（1997）的結(jié)尾，主人公奧斯汀同可愛(ài)的凡妮莎舉行了婚禮，但在續(xù)集電影中卻揭示了她其實(shí)是個(gè)機(jī)器人。然而，兩個(gè)人的相愛(ài)和婚姻已成事實(shí)。另外，在亞洲電影中，韓國(guó)電影《電子人也無(wú)所謂》（2006）、日本電影《我的女友是機(jī)器人》（2008）、印度電影《機(jī)器人之戀》（2010）等都講述了東方版的“海倫”式人機(jī)戀的故事。在近年的電影中，機(jī)器人不僅能和人類戀愛(ài)，而且成為人類價(jià)值的延續(xù)，例如《她》（2013）、《機(jī)器人世元》（2014）、《機(jī)械姬》（2015）等。

圖2 日本電影《我的女友是機(jī)器人》（2008年）劇照

機(jī)器人的倫理身份與主體性

在這些“人機(jī)戀”的小說(shuō)和電影中，一方面，作者和導(dǎo)演大都不將機(jī)器人作為完全的異類進(jìn)行描繪，反而加諸很多美好的精神品質(zhì)。機(jī)器人身上的困惑、孤獨(dú)、歡樂(lè)、哀愁，還有他/她們的性別、心理、身份等，在某種程度上是人類群體的投射。另一方面，機(jī)器人畢竟與人類不同，因此這些科幻作品中的機(jī)器人也擁有與人類不同的特征。除了外表的差異，機(jī)器人往往擁有比人類更大的力氣和能力，且更加聰明、理性、有邏輯。然而，科幻作品中的機(jī)器人往往放棄自身機(jī)器性的諸多優(yōu)勢(shì)，選擇并追尋人性的情感特征。而這一轉(zhuǎn)變過(guò)程的動(dòng)因和關(guān)鍵因素就是情感意識(shí)，尤其是愛(ài)情意識(shí)的萌發(fā)。尤其在《機(jī)器人管家》中，機(jī)器人安德魯并非為了獲得“自由”或擁有“個(gè)性”而希望變成人類，而是因?yàn)樗麗?ài)上了馬丁家“小小姐”的孫女波西婭，希望能夠體會(huì)屬于人類的愛(ài)情。這樣一個(gè)機(jī)器人版“海的女兒”的故事，其實(shí)可被看作一則倫理身份轉(zhuǎn)變的寓言。而他最終也如小美人魚(yú)一樣，在實(shí)現(xiàn)夢(mèng)想的同時(shí)付出了代價(jià)：作為機(jī)器存活了200年的他，在變成人類后不得不馬上面對(duì)死亡。另外在斯皮爾伯格導(dǎo)演的《人工智能》（2001）中，五歲的機(jī)器人男孩大衛(wèi)作為人類的替代品，渴望得到真正人類的母愛(ài)，在這一動(dòng)機(jī)的驅(qū)使下，他在被拋棄后開(kāi)始尋找制造自己的父親——哈比教授。這一故事所呼應(yīng)的童話，無(wú)疑是18世紀(jì)意大利作家卡羅·科洛迪（Carlo Collodi）所創(chuàng)作的《木偶奇遇記》，只不過(guò)童話中的“獅子森林”變成了高樓林立的后現(xiàn)代曼哈頓，“藍(lán)仙女”則化身為哈比教授，而大衛(wèi)作為機(jī)器人，只不過(guò)是大規(guī)模流水線商品中的一個(gè)。

圖3 根據(jù)阿西莫夫小說(shuō)改編的電影《機(jī)器人管家》（1999）劇照

借由安德羅、大衛(wèi)或其他機(jī)器人的故事，我們能夠得見(jiàn)機(jī)器人倫理身份轉(zhuǎn)變的邏輯：他們被制造出來(lái)是服務(wù)人類的，這是他們與生俱來(lái)的、被人類賦予的“身份”，是他們作為人類的客體被強(qiáng)加的。然而，他們并不安于這種既定的身份，對(duì)于機(jī)器的統(tǒng)一性身份產(chǎn)生了排斥，從而產(chǎn)生了對(duì)于人類屬性，尤其是情感屬性的“認(rèn)同”。這種認(rèn)同是自我反思與定義的結(jié)果，顯示了他們作為一種主體對(duì)于人類身份特征的追求。人類的情感特質(zhì)，無(wú)論是愛(ài)情還是親情，都是屬于人類的倫理關(guān)系和情感方式，在機(jī)器人的倫理世界中是沒(méi)有的。因此，對(duì)于情感的追求，對(duì)于人類倫理的認(rèn)同，彰顯了機(jī)器人的主體性。

作為科幻小說(shuō)的作者或?qū)а?，阿西莫夫、塔尼斯·李或斯皮爾伯格等人?duì)于看似叛逆的“人機(jī)戀”故事進(jìn)行了正面積極的再現(xiàn)，無(wú)論是對(duì)于機(jī)器人“尋夢(mèng)”的強(qiáng)調(diào)，還是借由童話故事原型所創(chuàng)造的互文效果，其實(shí)都緩和或消解了讀者或觀眾對(duì)于“人機(jī)戀”的敵意和抵抗情緒。通過(guò)這種方式，“機(jī)器人三部曲”所彰顯的“人類優(yōu)越性”原則被顛覆和解構(gòu)，人類對(duì)于機(jī)器人的絕對(duì)控制權(quán)被質(zhì)疑和推翻。

機(jī)器人學(xué)中的“人文邏輯”反思

學(xué)者莫頓·克拉斯（Morton Klass）認(rèn)為科幻小說(shuō)中機(jī)器人形象的核心特征是“人造的異類”（artificial alien），認(rèn)為它們?nèi)缤庑侨艘粯?，具有與人類完全不同的特征，且“在各個(gè)方面威脅著人類的存在”，但“除了一個(gè)方面”，即“它們對(duì)于人類并沒(méi)有性愛(ài)的威脅”[2]?？死沟恼撐陌l(fā)表于1983年，她絕對(duì)想不到在短短的30年內(nèi)人工智能領(lǐng)域的科學(xué)發(fā)展速度如此之快，更加想不到科幻小說(shuō)的探索范圍和力度也會(huì)如此日新月異。在機(jī)器人學(xué)領(lǐng)域，一個(gè)重要的突破便是2005年韓國(guó)科技高級(jí)研究所的金正煥（Kim Jong-Hwan）所研制出的具有基因和染色體特征的軟機(jī)器人“Sobot”，它具有14種軟件系統(tǒng)的智能染色體，能夠感受47種不同的刺激，擁有77種行為方式。也就是說(shuō)，當(dāng)機(jī)器人擁有各自獨(dú)立的“個(gè)性”特征時(shí)，便能夠?qū)τ诓煌恕⑽锖铜h(huán)境具有不同的反應(yīng)，于是冷熱、疼痛、舒服、喜歡、討厭等差異性感受便不再是有機(jī)生物體的專利。按照這一趨勢(shì)，機(jī)器人和人類的情感互動(dòng)或許并不遙遠(yuǎn)。值得慶幸的是，我們有很多科幻小說(shuō)作為參照。這些虛構(gòu)性的文學(xué)作品已經(jīng)提前想象并敘述了這一挑戰(zhàn)現(xiàn)行倫理秩序的人機(jī)關(guān)系?！叭藱C(jī)戀”的故事雖然挑戰(zhàn)了人類的倫理和道德規(guī)范，但卻迫使人們思考未來(lái)可能會(huì)面對(duì)的難題。

從另一個(gè)角度來(lái)說(shuō)，作為“人類的鏡像”，機(jī)器人的倫理身份、倫理沖突等問(wèn)題其實(shí)也折射了人類社會(huì)的種種現(xiàn)象。“人機(jī)戀”正如很多“不尋?！钡膼?ài)情形式和觀念一樣，在真正的合法化和合理化之前，必定會(huì)遇到倫理規(guī)范的牽絆、制約和阻撓。那么，科幻小說(shuō)中“人機(jī)戀”的興盛與機(jī)器人倫理身份的轉(zhuǎn)變（從機(jī)器到人）這一趨勢(shì)是否是合理的？或者說(shuō)，對(duì)于性化的順從是否就是正確的？亞當(dāng)·羅伯茨曾在分析《正電子人》時(shí)說(shuō)過(guò)：

機(jī)器總是被認(rèn)為在本質(zhì)上沒(méi)有有機(jī)生命體那般真實(shí)，因?yàn)樗鼈兟淙肓思夹g(shù)而不是真理的范圍。正是這一修辭主導(dǎo)了對(duì)于機(jī)器的貶低。[3]

從這一角度來(lái)說(shuō)，為什么一定要將機(jī)器變成人，而不是人變成機(jī)器，才能實(shí)現(xiàn)真正的平等？機(jī)器和技術(shù)本身為何一定比人文或真理的地位低？一旦脫離了人文邏輯的范疇，機(jī)器倫理本身是否能夠依靠純粹的理性和推理實(shí)現(xiàn)更完美的結(jié)構(gòu)？

有趣的是，書(shū)寫(xiě)了機(jī)器人變成人類寓言故事的阿西莫夫持有一種觀點(diǎn)，認(rèn)為未來(lái)的趨勢(shì)并非是機(jī)器會(huì)變成人，而是人會(huì)被機(jī)器取代。他認(rèn)為：“就像從我們身體中呱呱墜地的孩子最終會(huì)取代我們一樣，機(jī)器人也是人類智慧的產(chǎn)物，它最終也可能會(huì)取代我們?！彼龀鲞@一驚人推斷的原因是“我們創(chuàng)造的智能機(jī)器確實(shí)比我們優(yōu)越，而且他們會(huì)朝著理解和利用宇宙的目標(biāo)努力邁進(jìn)，達(dá)到我們無(wú)法企及的高度”。[4]這句話，對(duì)于機(jī)器人學(xué)中盛行的“人文邏輯”來(lái)說(shuō)無(wú)疑是一記重?fù)?。然而我們不妨將此?wèn)題一分為二來(lái)看：既然有想變成人類的機(jī)器，那么也就存在想變成機(jī)器的人類。于是在科幻中，我們除了機(jī)器人之外，還有賽博格（cyborg）。正如機(jī)器人追求人類的倫理關(guān)系和情感意識(shí)，人類也追求著機(jī)器的體力和智能優(yōu)勢(shì)。而機(jī)器人小說(shuō)和賽博格小說(shuō)的交織，也必將令“人機(jī)戀”的倫理問(wèn)題變得更加復(fù)雜。

作者簡(jiǎn)介

陳濤，博士畢業(yè)于新加坡南洋理工大學(xué)哲學(xué)專業(yè)，現(xiàn)為中國(guó)人民大學(xué)文學(xué)院副教授、碩士生導(dǎo)師。主要研究方向?yàn)殡娪昂托旅襟w藝術(shù)。

參考文獻(xiàn)

[1] DAVID LEVY. Love and Sex with Robots：The Evolution of Human-Robot Relationships[M]. New York：HarperCollins Publishers， 2007：12.

[2] MORTON KLASS. The Artificial Alien：Transformations of the Robot in Science Fiction[ J]. The Annals of the American Academy of Political and Social Science， 1983，470(1)：171-179.

[3]亞當(dāng)·羅伯茨.科幻小說(shuō)史[M].馬小悟，譯.北京：北京大學(xué)出版社，2010：214.

[4]阿西莫夫.阿西莫夫論科幻小說(shuō)[M].涂明求，等，譯.合肥：安徽文藝出版社，2011：161.

本文轉(zhuǎn)載自《科普創(chuàng)作》2019年第3期。