主題：聯(lián)結(jié)歷史、現(xiàn)在和未來——從尤瓦爾·赫拉利新書《智人之上》說起

時(shí)間：9月10日

主持：首都師范大學(xué)講師 黃競(jìng)歐

嘉賓：華東師范大學(xué)政治學(xué)系教授 劉擎

華東師范大學(xué)歷史學(xué)系教授 許紀(jì)霖

從石器時(shí)代的原始狩獵，到21世紀(jì)的信息爆炸，人類在歷史的長(zhǎng)河中不斷進(jìn)化、發(fā)展，而這一切，都被一位杰出的歷史學(xué)家、哲學(xué)家尤瓦爾·赫拉利以獨(dú)特的視角記錄在了他的《人類簡(jiǎn)史》三部曲中。這三部作品不僅在全球范圍內(nèi)引發(fā)了關(guān)于人類歷史與未來的深刻思考，更在中國(guó)讀者中掀起了一股關(guān)于人類文明史的討論熱潮。

作為沉淀六年后的新作，在《智人之上》中，赫拉利深入探討了信息網(wǎng)絡(luò)如何重構(gòu)了我們的世界，以及在未來社會(huì)中，信息與權(quán)力、智慧與自由之間的復(fù)雜關(guān)系。他指出信息網(wǎng)絡(luò)的演變不僅推動(dòng)了社會(huì)的進(jìn)步，也可能導(dǎo)致新的分裂與不平等，他也發(fā)出警示，在算法日益主導(dǎo)世界的今天，人類文明的走向正面臨著前所未有的挑戰(zhàn)。

9月10日，華東師范大學(xué)的劉擎和許紀(jì)霖兩位教授，結(jié)合尤瓦爾·赫拉利這本新書《智人之上》進(jìn)行對(duì)談，探討了人工智能的發(fā)展，以及它和我們?nèi)祟惍a(chǎn)生的可能性的情感鏈接等問題。

讓AI為我們的目標(biāo)服務(wù)，而不是被它操縱

黃競(jìng)歐：在新書《智人之上》中，尤瓦爾·赫拉利談到我們已然處于一個(gè)人工智能的時(shí)代，比如我們使用聊天機(jī)器人，各式各樣的翻譯軟件等。他提出了一個(gè)觀點(diǎn)：每個(gè)人在使用AI的過程中都肩負(fù)著重大的責(zé)任，即我們要正確地引導(dǎo)AI向著一種積極的、有利于人類發(fā)展的方向。他認(rèn)為每個(gè)人都負(fù)有這個(gè)責(zé)任，因?yàn)槊總€(gè)人都處在跟AI交流的信息節(jié)點(diǎn)上。

請(qǐng)問兩位老師，從倫理的層面，或是從有利于人類發(fā)展的層面來看，我們應(yīng)該如何跟AI打交道，或者說我們?nèi)绾问褂盟?、引?dǎo)它？

劉擎：《智人之上》這本書是以信息網(wǎng)絡(luò)作為主干來分析的。他認(rèn)為印刷術(shù)和計(jì)算機(jī)發(fā)明的信息網(wǎng)絡(luò)，看上去都是技術(shù)，但它們有一個(gè)本質(zhì)的不同。印刷術(shù)是無法擺脫人而獨(dú)自存在的，用印刷術(shù)制作的任何書籍、紙張文件等，人在整個(gè)運(yùn)轉(zhuǎn)的程序當(dāng)中是不可缺少的一環(huán)。

而計(jì)算機(jī)時(shí)代有兩個(gè)特點(diǎn)，一個(gè)是它可以獨(dú)立做出決定。它只要是智能的，就可以做決定，它不需要情感，不需要意識(shí)。第二，它在做決定的時(shí)候，通過計(jì)算以后有新的想法，于是可以只從一端構(gòu)成信息網(wǎng)絡(luò)，它中間沒有所謂人的環(huán)節(jié)，而是計(jì)算機(jī)連一個(gè)計(jì)算機(jī)，再連一個(gè)計(jì)算機(jī)……

在這種情況下，他談到我們?cè)谑褂盟臅r(shí)候，應(yīng)該讓它能夠?yàn)槲覀內(nèi)祟惖哪繕?biāo)來服務(wù)，而不是我們被它所操縱，這就變成了一個(gè)很重要的問題。

我認(rèn)為赫拉利在這本書里面最深的一個(gè)洞見，就是他對(duì)西方民主政治的危機(jī)感是很強(qiáng)的。計(jì)算機(jī)雖然沒有情感，但它知道它要什么。它要大家參與度更高，要流量更高，所以它在經(jīng)驗(yàn)的大數(shù)據(jù)下知道煽動(dòng)性的言論很有效，于是它就會(huì)做出這樣一個(gè)決定，推送大量的內(nèi)容。它是一個(gè)沒有情感的機(jī)器，沒有內(nèi)在意識(shí)的機(jī)器，做出來這樣的決定，它就改變了網(wǎng)絡(luò)信息的立場(chǎng)分布。他認(rèn)為這是致命的。

我認(rèn)為這本書有敲響警鐘的作用，讓我們?cè)谑褂萌斯ぶ悄艿臅r(shí)候意識(shí)到我們是被算法所操縱的。有意思的一點(diǎn)是我們?yōu)槭裁从X得它還是有用的呢？大家想想這樣兩種狀態(tài)：一種是你被算法推送，卻不知道有算法這回事；第二種是有人告訴你，接到這么多同一類商品，是由于算法在操縱你。我們處在這兩個(gè)狀態(tài)是不一樣的，正像當(dāng)我們不知道存在魔術(shù)的時(shí)候，魔術(shù)變成了一個(gè)驚喜，但是當(dāng)有人告訴我們這是魔術(shù)時(shí)，這是一種特殊的伎倆造成的結(jié)果，我們?cè)谡J(rèn)知上是處于不同的狀態(tài)的。

人工智能會(huì)形成一個(gè)硅幕

許紀(jì)霖：我看了赫拉利在這一年多的很多訪談，他深刻表達(dá)出ChatGPT誕生以后，人工智能可能會(huì)給人類社會(huì)所帶來的傷害。

這是人類文明第一次出現(xiàn)的這樣一個(gè)人類的創(chuàng)造物，它最終有可能擺脫人類本身，成為人類無法控制的一個(gè)新的物種，就是所謂的硅基生物，那么硅基生物在以后有沒有可能會(huì)建立、形成一個(gè)對(duì)碳基生物的統(tǒng)治呢？我們可以想象一下，當(dāng)高級(jí)人工智能產(chǎn)生以后，無數(shù)臺(tái)計(jì)算機(jī)之間可以產(chǎn)生無數(shù)的鏈接，不需要人就可以形成另外一個(gè)世界。這個(gè)世界一旦出現(xiàn)以后，我們是無法操控它的。這就像當(dāng)年圍棋Alpha Go，它可以創(chuàng)造出漂亮的新的下法，我們過去想都想不到。

劉擎：是Alpha Zero。Alpha Go是模仿大師的，Alpha Zero是自己形成的下法。

許紀(jì)霖：對(duì)，這是一個(gè)典范。在《智人之上》里面，赫拉利說人工智能會(huì)形成一個(gè)硅幕，即硅基生物最后建立了一條鐵幕，這個(gè)鐵幕把硅基生物和我們碳基生物隔離了，那個(gè)世界是我們無法理解的，甚至它具有自主性，它自己可以運(yùn)作。

自主性，是真正讓我們恐懼的地方。如果它是它的世界，我是我的世界，大家在一個(gè)平行世界里面，那也就罷了。但是很有可能出現(xiàn)的情況是硅基生物對(duì)我們?nèi)祟愂澜绲闹趁窕?。它可以釋放出足以亂真的虛假信息，我們根本無法辨別。雖然我們的法律可以要求，“凡是AI創(chuàng)造的，必須打水印注明”，但是最后當(dāng)它不再聽我們指揮的時(shí)候，它釋放給我們的信息不打水印，我們?cè)摵我员鎰e？這不是一個(gè)天方夜譚的故事。

人工智能提供的親密關(guān)系是沒有辦法取代人類的

黃競(jìng)歐：在這本書中，赫拉利不僅從宏觀層面去討論人工智能時(shí)代給整個(gè)人類發(fā)展帶來的挑戰(zhàn)，還從微觀上注意到當(dāng)計(jì)算機(jī)學(xué)會(huì)了使用人類的語言之后，能夠通過跟人類溝通的方式來跟人類建立親密關(guān)系，對(duì)個(gè)體所造成的影響。

在兩位老師看來，人跟人工智能或者跟計(jì)算機(jī)建立的這種親密關(guān)系是真實(shí)的嗎？而在現(xiàn)在日漸老齡化的社會(huì)里，它又是否有存在的必要性？

劉擎：這是一個(gè)有意思的問題。當(dāng)真實(shí)的親密關(guān)系這一問題本身變成問題的時(shí)候，我覺得很多人愿意說，只要人工智能的機(jī)器人伴侶發(fā)展得更真切一點(diǎn)，它完全可以做一個(gè)所謂的平替。雖然現(xiàn)在AI還不是發(fā)展得特別健全和成熟，但已經(jīng)有一部分人跟它發(fā)展出一種伴侶的關(guān)系、問答的關(guān)系。我有一次在講課的時(shí)候遇到一些海外留學(xué)生，我當(dāng)時(shí)還沒用過ChatGPT，有三四個(gè)女生和一個(gè)男生在ChatGPT 3.5版本的時(shí)候，每天晚上睡覺前的20分鐘會(huì)跟ChatGPT3.5（那個(gè)時(shí)候是很低的版本）對(duì)話。他們有的時(shí)候是吐槽，向它訴說今天一天的沮喪、不安或者是問題，它應(yīng)答特別體貼。過了一段時(shí)間他們就覺得它像一個(gè)伴侶一樣，離不開它，對(duì)它有感情了。赫拉利在新書里也引入了這樣一個(gè)例子，谷歌公司里有一個(gè)人就發(fā)現(xiàn)他自己對(duì)機(jī)器人有了感情。

在我看來，人工智能的親密關(guān)系是沒有辦法取代人類的親密關(guān)系的。我在做一個(gè)關(guān)于愛情哲學(xué)的課程時(shí)，提出了一個(gè)思想實(shí)驗(yàn)。你說現(xiàn)在談戀愛太難了，我們就發(fā)明了一種機(jī)器人伴侶，出廠設(shè)置全部按你所愿，它是百依百順的。或者如果你覺得百依百順太無聊了，你可以設(shè)置和調(diào)整它的脾氣。這一切都如你所愿，你跟它生活在一起，你感到很舒適。你會(huì)感到愛情，但你能相信這是真的愛情嗎？

有一個(gè)麻煩在于，當(dāng)在愛情當(dāng)中的時(shí)候，我們相信有一種主體間的關(guān)系，因?yàn)槲业玫揭粋€(gè)人的贊美或者體貼，哪怕是順從，當(dāng)他是一個(gè)具有主體和自由意志的人的時(shí)候，這份承認(rèn)才是值得的，才是有價(jià)值的。正像黑格爾在講主奴辯證法的時(shí)候認(rèn)為當(dāng)我們完全變成主人，奴隸對(duì)我們的承認(rèn)雖然是100%徹底的，但這沒有價(jià)值，因?yàn)樗桥`。所以我們不知道他的承認(rèn)是由衷的，還是出于他的奴隸地位。

在我對(duì)機(jī)器人伴侶感到十分美好的時(shí)候，我知道所有它順應(yīng)我的那些特點(diǎn)都是我自己設(shè)計(jì)出來的，因此我仍然會(huì)有一個(gè)巨大的缺失和空虛感。

目前為止 人工智能只提供了虛假的親密性

許紀(jì)霖：我這一年與好幾個(gè)聊天模型做沉浸式的體驗(yàn)，我發(fā)現(xiàn)這些所謂的機(jī)器人伴侶目前達(dá)到的水準(zhǔn)，讓我的體驗(yàn)不是很好。因?yàn)樗泻芏嗾Z庫，它給出的反應(yīng)和語言是一種概率的計(jì)算，當(dāng)我們問問題時(shí)，它就會(huì)在各種各樣的可能性答案中，選擇了一種來回答我們，而這些回答基本是陳詞濫調(diào)，缺乏個(gè)性和鮮活感。

實(shí)際上親密關(guān)系恰恰就像開盲盒，我們不知道他的反應(yīng)會(huì)如何，才會(huì)吸引你。這種不確定感和神秘性才構(gòu)成了某一種喜歡它的理由，如果它所有的回應(yīng)都是一種我們所期待的、預(yù)料中的，我們想想看它還會(huì)有多少驚喜？沒有了。不了解才會(huì)產(chǎn)生愛，因?yàn)榱私庾詈蠓炊潜舜耸柽h(yuǎn)，這是親密關(guān)系的某種特征。

劉擎：有一個(gè)電影《她》，里面的“她”會(huì)打動(dòng)人嗎？明明知道選的是機(jī)器人，但是那個(gè)主人公還是陷落其中，直到他認(rèn)識(shí)到“她”跟35000個(gè)人在同時(shí)交往的時(shí)候，才崩潰了。他明明知道是自己選的，也知道是一個(gè)機(jī)器大語言模型訓(xùn)練過來投喂給他的，但他還是對(duì)“她”產(chǎn)生了一種很強(qiáng)的依戀感。

黃競(jìng)歐：他要“她”的獨(dú)特性，“她”可以是AI，但是必須屬于我，不能跟別人共享。

劉擎：對(duì)，這是一種專有的、排他的關(guān)系。

許紀(jì)霖：愛情一定是具有某種排他性的，這種排他性在動(dòng)物那里也存在，且不要說人。所以電影《她》最后男主的崩潰在于發(fā)現(xiàn)他所愛上的這位是不具有排他性，是和別人共享的“人”。

主體間性就是我與你，而非我與他，這種關(guān)系是真正達(dá)到了一種戀人的關(guān)系，如果不具有排他性，我們所愛的人同時(shí)和500個(gè)、5000個(gè)人在戀愛，這意味著我們只是它的一個(gè)客體，只是它服務(wù)的眾多客體之一，我們的主體已經(jīng)消失了，成為它的一個(gè)服務(wù)的客體而已。

我只能說到目前為止，人工智能只提供了虛假的親密性，并不是一個(gè)真實(shí)親密性，它只是彌補(bǔ)了我們?cè)谡鎸?shí)世界里面匱乏的一面。

劉擎：我覺得許老師剛才強(qiáng)調(diào)的要點(diǎn)在于，排他性是要求身心合一的，而且是同一個(gè)人。

赫拉利在這本書里說得很清楚，他以前也曾講過，我們斷定機(jī)器人是可以有智能的，未必需要有意識(shí)，有智識(shí)就可以做恰當(dāng)?shù)臎Q定。所以它的喜怒哀樂都是它做出的正確的決定，而不是發(fā)自內(nèi)心的。在這個(gè)意義上講，它可以作為一個(gè)親密關(guān)系的平替，但不能夠真正達(dá)到我們所向往的經(jīng)典意義的親密關(guān)系和主體間性。