AlphaGo已打敗世界圍棋等級排名第一的棋手柯潔

赫拉利：可以說，在最早的AI中，這個動機是由編程人員決定的。但隨著機器學(xué)習(xí)的發(fā)展，AI的走向就不好說了。它不會像人類一樣產(chǎn)生欲望，因為它沒有意識。它不會有心理活動，但會形成自己的行為模式，而這些模式將遠遠超出人類的理解范圍。

對業(yè)內(nèi)人士來說，機器學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò)以及AI的吸引力在于，AI能以人類無法效仿或預(yù)測的方式，識別模式和做出決策。這就意味著，對于AI會朝什么方向發(fā)展，我們是無法預(yù)見的。這是危險之一。AI一旦超越人類智能，也就超越了人類的想象。

克萊恩：既然AI的發(fā)展和AI的未來都充滿不確定性，你為什么如此堅信，300年后，人類就不是地球的主宰了呢？

赫拉利：不是我高估AI，是多數(shù)人都傾向于高估人類。要取代大部分人類，AI并不用多么有本事。政治和經(jīng)濟體系從人類那里所需要的，其實非常簡單。

前面我們談到了開車，還有診斷疾病。用不了多久，AI就會在這些領(lǐng)域超越人類，哪怕它們沒有意識，沒有情感、感受或超級智能。當(dāng)代人大多都在做一些界限分明的工作，AI很容易就能把我們比下去。

如果回到狩獵采集時代，情況就不同了。你很難造出一個能夠匹敵人類的狩獵采集機器人。但造一輛自動駕駛汽車，將出租車司機比下去呢？簡單?；蛘咴煲粋€診斷癌癥的AI醫(yī)生，將人類醫(yī)生比下去呢？也簡單。

我們所探討的是，在21世紀(jì)，大部分人類都會喪失經(jīng)濟和政治價值，淪為一個龐大的無用階層。這個“無用”不是他們的母親或孩子眼中的無用，而是對經(jīng)濟、政治和軍事體系的無用。屆時，這些體系也沒有動力在人類身上花功夫了。

克萊恩：如果這種改變發(fā)生在50年、100年、150年后呢？

赫拉利：50年真的很快的，轉(zhuǎn)眼間就過去了。

克萊恩：我知道，但對經(jīng)濟體來說，就不一定很快了。就好比1900年，美國很大一部分勞動力都在從事農(nóng)業(yè)。到2000年，情況就完全不一樣了。農(nóng)業(yè)人口占比，以及農(nóng)業(yè)勞動力的占比都變得微乎其微。

就像你剛才關(guān)于經(jīng)濟無用性的觀點所言，我們的確將農(nóng)業(yè)這些非?！坝杏谩钡墓ぷ鳎瑩Q成了很多客觀上沒那么有用的工作，就比如我的工作。這個世界需要我錄播客、寫文章嗎？它需要你撰寫有趣的著作，探討可能出現(xiàn)的未來嗎？也許并不需要。

在經(jīng)濟體中，我們擅長于創(chuàng)造各種各樣的需求。我們給紙張賦予意義，把它變成了錢，還把用鈔票買到的東西也賦予了價值。我們成功地說服自己，葡萄汁存放的時間夠長，就會變成葡萄酒，可以賣出幾千美元。

將來有一天，出租車也許都由計算機來駕駛了，但我們還是可以說服彼此，我們生活中需要更多的瑜伽老師，更多的冥想老師。你仍然可以說，“這事兒計算機也能做?！钡鳛槿祟悾覀冸y道就找不到新的東西，并賦予其價值了嗎？

這好像有點將“用處”和“價值”混為一談了。“用處”某種程度上是參照規(guī)范所作的判斷，而“價值”是一種主觀性更濃的判斷。什么有價值，什么沒有價值，這是我們自己決定的，而且，我們也善于為自己需要什么創(chuàng)造借口。

赫拉利：我認(rèn)為，答案分兩個層面。首先，關(guān)于新就業(yè)出現(xiàn)的可能性，就像農(nóng)場工人轉(zhuǎn)戰(zhàn)工廠，繼而進入服務(wù)行業(yè)，現(xiàn)在又變成瑜伽老師，其中的問題在于，人類能力基本可分為兩種：體力和腦力。

過去，在農(nóng)田和工廠中，機器和我們比體力，人們轉(zhuǎn)而從事腦力勞動?，F(xiàn)在，機器開始和我們拼腦力了。至于人類有沒有第三種共同的能力可以挖掘，我們就不得而知了。

克萊恩：我能試舉一種嗎？湯姆·弗里德曼（Tom Friedman）擅長用短小精悍的語句，將各種思緒包裝起來，比如他說，我們正從腦力勞動轉(zhuǎn)向心力勞動。人類的能力似乎在于，人類享受與其他人類互動。我大可以讓計算機教我瑜伽，但實際卻沒有這樣做。

您就是一個很好的例子。你即將參加為期60天的禁言冥想休憩會。當(dāng)然，計算機可以收集網(wǎng)絡(luò)上的冥想信息，讀取有史以來每一本冥想書籍的內(nèi)容，最后打印出一份東西，然后你就能把自己關(guān)進屋子，一個人呆上60天，還不用交錢。但您不愿這樣，您想和別人一起，想和其他人互動。

其實我覺得，經(jīng)濟體中很多工作都是如此。即便是現(xiàn)在，很多工作也都是無用的。從某些層面上講，書籍跟計算機類似——書能做到的，人都能做到。我知道您在大學(xué)教書。您大可以讓大家看書，但人們喜歡由老師教，喜歡有助教，喜歡和其他學(xué)生共處。人類擅長和其他人類互動。

赫拉利：將來，計算機讀取并理解人類情緒的能力也許會產(chǎn)生巨大飛躍，一舉超越人類。去看醫(yī)生的時候，你渴望那種人類互動的溫暖體驗。但醫(yī)生是怎么做到的呢？無非就是解讀你的面部表情、語音語調(diào)，當(dāng)然還有說話內(nèi)容。人類醫(yī)生主要通過這三種方式，分析你的情感狀態(tài)，知道你是害怕、無聊、憤怒還是別的什么。

我們還沒有走到那一步，但計算機很快就能識別這些生物模式，比人類更勝一籌。情緒并不是只有人類才能解讀的神秘現(xiàn)象。

將來，計算機還能解讀身體發(fā)出的信號，人類醫(yī)生就辦不到。只要在體表或體內(nèi)安裝生物識別傳感器，計算機就能診斷出你的情緒狀態(tài)，準(zhǔn)確性勝過任何人類。因此，即便在這種情況下，AI都是有優(yōu)勢的。

另一點，在20世紀(jì)，丟了農(nóng)業(yè)飯碗的人來到工廠從事低技能工作，這些工作也消失后，人們又轉(zhuǎn)而從事服務(wù)業(yè)的低技能工作，比如收銀。21世紀(jì)的問題在于，低技能工作就此消失了，針對高技能工作的再培訓(xùn)就變得非常棘手。如果你是出租車司機，到50歲失業(yè)了，只能轉(zhuǎn)行教瑜伽，這就非常難辦了。 

克萊恩：這種情形還有另一個面，即產(chǎn)生一個無生產(chǎn)、超愉悅的社會。相比于AI反烏托邦，我其實更擔(dān)心VR反烏托邦。

人類一旦喪失經(jīng)濟意義，就會避入虛擬現(xiàn)實世界。現(xiàn)在的VR已經(jīng)非常先進，20年后就更不用說了。在您想象中，未來，我們會不會通過某種社會規(guī)模的分心機器，管理這個經(jīng)濟無用性問題？

赫拉利：是的，我覺得AI取代人類還有另一個問題——不是經(jīng)濟問題，而是意義問題——如果你沒有工作，并從政府那里領(lǐng)取無條件基本收入，這時，最大的問題是：你怎么尋找生命的意義？你整天都干些啥？

對此，目前最好的答案就是藥物和電腦游戲。

人們會服用各種各樣的生物化學(xué)制品，越來越多地調(diào)節(jié)自己的情緒，也會日益深陷三維虛擬現(xiàn)實之中。

在虛擬現(xiàn)實游戲中尋找意義并非新鮮事。這個概念由來已久。幾千年前，我們就開始這樣做了。只不過到目前為止，我們都管這叫做宗教。

我們大可以將宗教看成某種虛擬現(xiàn)實游戲：發(fā)明并不存在的規(guī)則，信受奉行，終其一生。如果你是基督徒，這樣做就能加分，否則減分，及至死亡降臨，游戲結(jié)束。到時候，分值夠高者得以升級，也就是升入天堂。