文：夏濱 | 壹心理專欄作者

這絕對(duì)不是一篇科普文章，只是和你閑扯 ?

阿爾法狗（AlphaGo）再虐李世石，2：0中盤再勝，我們已經(jīng)來不及計(jì)算李世石的心理陰影面積了......

小時(shí)候經(jīng)常會(huì)做些白日夢(mèng)，比如長(zhǎng)大后汽車會(huì)在天上飛不用地上跑，有很多自動(dòng)化的家電，動(dòng)動(dòng)手指就能控制，機(jī)器人滿大街都是，而且他們可以做人類所有的事。（等下，所有的嗎？那要人類干什么？）那個(gè)時(shí)候「建設(shè)四個(gè)現(xiàn)代化」就是最高指示呀，似乎四個(gè)現(xiàn)代化了一切都完成了。

時(shí)光荏苒，如今的科技進(jìn)步已經(jīng)接近進(jìn)化的節(jié)奏了，很多夢(mèng)想過的、沒夢(mèng)想過的，都飄到面前，而機(jī)器人這一項(xiàng)也逼近想像的極限。

圍棋被認(rèn)為是世界上最復(fù)雜的棋盤游戲，也是唯一的一種人腦能戰(zhàn)勝電腦的棋類?？墒乾F(xiàn)在恐怕我們?nèi)祟惒惶铱隙ù_定以及一定地說出這句肯定句了。

2016年3月9日，谷歌公司的AlphaGo與韓國圣手李世石的圍棋大賽第一戰(zhàn)，人腦以3目之差失去與人工智能第一回合，全球嘩然；3月10日，AlphaGo再次獲勝。

不僅讓人想起圍棋大師吳清源曾用一句話來抒發(fā)心情，“200歲后我要在宇宙下棋。”圍棋大師留下的一句感慨令人遐想：浩瀚宇宙中人類未來將走向何方？

我想起2015年出過一部英國神劇『真實(shí)的人類』（Humans），當(dāng)時(shí)看的人目瞪口呆、膽戰(zhàn)心驚。故事其實(shí)并不復(fù)雜，講了在未來的某個(gè)時(shí)間，機(jī)器人的應(yīng)用已經(jīng)非常廣泛，那是一個(gè)機(jī)器人Synth被繁忙都市人廣泛使用的世界，機(jī)器人僅僅作為簡(jiǎn)單的勞動(dòng)力出現(xiàn)，它不再是人類的「延長(zhǎng)手臂」，它成為人類生活中的伙伴，它們可以代替人的工作，它們可以代替人的性生活，它們甚至可以成為人的伴侶，那個(gè)時(shí)代呈現(xiàn)出人類與機(jī)器人的界限愈發(fā)模糊，很多時(shí)間里人類本身已經(jīng)分不清哪些是在和人一起、哪些是和機(jī)器一起，于是富有情感的人類開始恐慌，而缺乏情感的機(jī)器人卻在尋找怎樣擁有情感。那個(gè)世界充滿了扣人心弦的矛盾沖突、心理沖擊與道德拷問。

01

機(jī)器人真的會(huì)撒謊嗎？

在本次人機(jī)世紀(jì)大戰(zhàn)中，圣手李世石的開局搶占先機(jī)非常漂亮，而AlphaGo卻顯的很笨拙甚至可以說是比較低級(jí)，中段在李世石看似已經(jīng)迎來最后勝利的時(shí)候，AlphaGo還下過非常低段位的棋招。于是，大家有些陷入迷思：機(jī)器人AlphaGo是故意的嗎？這是一種迷惑對(duì)手的戰(zhàn)術(shù)嗎？

捎一句，『真實(shí)的人類』里的機(jī)器人已經(jīng)會(huì)掩飾思想和撒謊了，雖然還只是極少數(shù)的機(jī)器人。

1950年，圖靈發(fā)表了一篇?jiǎng)潟r(shí)代的論文，文中預(yù)言了創(chuàng)造出具有真正智能的機(jī)器的可能性。由于注意到“智能”這一概念難以確切定義，他提出了著名的圖靈測(cè)試：如果一臺(tái)機(jī)器能夠與人類展開對(duì)話（通過電傳設(shè)備）而不能被辨別出其機(jī)器身份，那么稱這臺(tái)機(jī)器具有智能。圖靈測(cè)試是人工智能哲學(xué)方面第一個(gè)嚴(yán)肅的提案。

1952年，在一場(chǎng)BBC廣播中，圖靈談到了一個(gè)新的具體想法：讓計(jì)算機(jī)來冒充人。如果不足70%的人判對(duì)，也就是超過30%的裁判誤以為在和自己說話的是人而非計(jì)算機(jī)，那就算作成功了。

這一幕在電影『機(jī)械姬』里被重現(xiàn)，而影片的最后也同樣顯示了人類對(duì)于機(jī)器人進(jìn)化的恐懼，機(jī)械姬最后干掉了驕傲的人類。

記得圖靈測(cè)試?yán)镉行У囊豁?xiàng)測(cè)試，就是不停地問對(duì)方同一個(gè)問題，比如：你是你媽生的嗎？問很多很多遍，如果對(duì)方總是不緩不慢地回答你同一個(gè)答題，那么多半對(duì)面坐著的是一個(gè)機(jī)器了。

02

機(jī)器人為什么要撒謊？

機(jī)器人真的會(huì)撒謊嗎？我覺得很有可能噢。

人工智能領(lǐng)域一直有一個(gè)很著名的機(jī)器人阿西莫夫三定律，是1942年阿西莫夫在短篇小說"Runaround"（《環(huán)舞》）中首次提出：

一 機(jī)器人不得傷害人類，或因不作為使人類受到傷害。

二 除非違背第一定律，機(jī)器人必須服從人類的命令。

三 除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。

但后來，阿西莫夫加入了一條新定律：第零定律。

零 機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。

阿西莫夫的科幻設(shè)定里，機(jī)器人三定律是植入到近乎所有機(jī)器人軟件底層里，不可修改不可忽視的規(guī)定，絕不僅僅是“建議”或者“規(guī)章”。

不過，這三條定律的缺陷、漏洞和模糊之處不可避免會(huì)導(dǎo)致一些奇怪的機(jī)器人行為。比方說，這三條定律連何為“人”、何為“機(jī)器人”都沒有良好定義。而且，如果機(jī)器人獲取的信息不完整，它們完全可以無意中打破定律。更何況，你要怎么阻止一個(gè)智力超群的機(jī)器人自己把定律改掉呢？它只需要調(diào)整“人”的定義就可以了，根本都不用改變底層規(guī)則。

你要問，那么它為什么要改呢？這個(gè)問題其實(shí)和機(jī)器人為什么要撒謊一樣。

人為什么要撒謊？很簡(jiǎn)單，為了謀求利益呀，不管是物質(zhì)利益，精神利益，關(guān)系利益，還是心理平衡，都是有利益目標(biāo)的，否則這種讓自己可能產(chǎn)生認(rèn)知失調(diào)的事，誰愿意干啊。

機(jī)器人會(huì)有利益訴求嗎？如果是超人工智能的，我覺得就有可能啊。其實(shí)，AlphaGo想要贏得棋局就是一種利益訴求，只不過它是被人類置入的。可是這么一個(gè)高智能的機(jī)器，人類舍得只置入這一個(gè)單一訴求嗎？更何況AlphaGo還有自己學(xué)習(xí)和進(jìn)化的能力，當(dāng)它被置入越來越多的訴求，通過自我學(xué)習(xí)和進(jìn)化，你能預(yù)測(cè)它會(huì)發(fā)生什么樣的變化嗎？恐怕這種感覺就和上帝當(dāng)年看著突然直立行走的人類是一樣的感覺吧。

03

人類真的會(huì)敗在情緒嗎？

我突然想起來近幾年日本在進(jìn)行一個(gè)用機(jī)器人代替情感撫慰者的研究，他們模擬出各種情感反應(yīng)語句和姿態(tài)，可是最難的是如何讓機(jī)器人捕捉人類的情緒，并且做出帶有情緒的反應(yīng)。最后他們還沒弄成。

OH~我松了口氣，心理咨詢師看樣子一時(shí)半會(huì)兒是不能被機(jī)器人代替了（我怎么這么小農(nóng)思想呢你說）。

作為一種人工智能系統(tǒng)AlphaGo擁有兩個(gè)大腦，落子選擇器 （Move Picker）和棋局評(píng)估器 （Position Evaluator）。這也基于兩個(gè)深度神經(jīng)網(wǎng)絡(luò)，policy network與value network。二者極大地降低了需要考慮的搜索空間的復(fù)雜度，前者降低搜索的廣度，后者降低搜索的深度，很像人腦在下圍棋時(shí)憑直覺快速鎖定策略的思維。“集合了3000萬種職業(yè)棋手的下法，數(shù)百萬次深度學(xué)習(xí)與自我對(duì)戰(zhàn)，十分接近帶著直覺和第六感的人類大腦，能以57%的概率預(yù)測(cè)與其對(duì)陣人類的水平?！?/p>

據(jù)比賽分析師認(rèn)為，李世石在掌握了棋局大好形勢(shì)的情況下，就是情緒出現(xiàn)了波動(dòng)，失去了進(jìn)一步推進(jìn)勝局的優(yōu)勢(shì)，并被AlphaGo逆轉(zhuǎn)翻盤的。

關(guān)于人工智能，李開復(fù)有過這樣的描述：

「雖然這些機(jī)器確實(shí)很“聰明”，而且又高效、勤奮、低廉，但是他們并不“人性化”，只是冷冰冰的機(jī)器和工具。比如說，AlphaGo第一場(chǎng)就戰(zhàn)勝了李世石，但是它不會(huì)感覺高興，也不會(huì)理解我們對(duì)于它的討論。甚至，它說不上這局棋是怎么贏的。因?yàn)椋乃伎茧m然周密，但是它不懂“贏了有什么感受？”，也不懂“為什么圍棋好玩”，更不懂“人為什么要下棋？”，甚至連“你今天怎么贏的？”都說不上。今天的機(jī)器完全無法理解人的情感、喜怒哀樂、七情六欲、信任尊重、價(jià)值觀等方面 。對(duì)于人文藝術(shù)、美和愛、幽默感，機(jī)器更是絲毫不懂?！?/p>

人類有著天然強(qiáng)大的情緒大腦，我們會(huì)將很多的情緒體驗(yàn)“編譯”成特定代號(hào)存儲(chǔ)在我們的情緒大腦里，然后非常迅速地做出反應(yīng)，比如恐懼、比如厭惡，這大大節(jié)省了我們大腦的處理資源?？上нz憾的地方就是，因?yàn)檠杆偎运筒荒苣敲淳_，它會(huì)是一種相對(duì)模糊的代碼，所以我們瞅到井邊的麻繩會(huì)迅速逃開。

在復(fù)雜運(yùn)算方面，人類已經(jīng)遠(yuǎn)遠(yuǎn)落在了機(jī)器后面，不過在情感連接、模糊互動(dòng)、甚至潛意識(shí)的聯(lián)動(dòng)上，機(jī)器似乎很難進(jìn)化到這個(gè)階段。情緒之所以常常會(huì)影響到我們的能力發(fā)揮，甚至?xí)绊懙绞ナ掷钍朗陌l(fā)揮，很大一部分是因?yàn)槲覀兇鎯?chǔ)的“編譯”情緒的內(nèi)核往往是和負(fù)性情緒相關(guān)，人類七種主要情緒“喜怒憂思悲恐驚”大部分是相對(duì)負(fù)性的，這可能源于我們進(jìn)化的需要，保護(hù)自己的生存首先需要的是防守。

不過，這些負(fù)性情緒同樣也是力量的來源，比如憤怒產(chǎn)生攻擊的力量，憂傷產(chǎn)生思考和防御的力量，恐懼產(chǎn)生逃跑的力量，這些力量往往會(huì)調(diào)動(dòng)人類的潛能，遠(yuǎn)遠(yuǎn)超出自我的想像，而機(jī)器的力量是特定的，可計(jì)算的，在競(jìng)爭(zhēng)中可計(jì)算的對(duì)手常常會(huì)處于劣勢(shì)，甚至被毀滅。從這個(gè)角度看，人類情緒的不可預(yù)測(cè)性，也許恰恰是進(jìn)化出來的一種絕妙的競(jìng)爭(zhēng)武器。

可以這么說，現(xiàn)在的人工智能似乎只有一個(gè)超強(qiáng)左腦，它遠(yuǎn)遠(yuǎn)沒有一個(gè)變幻右腦加以輔助和調(diào)控，沒有右腦的參與，即使是撒謊，那也只能算是程序BUG。

人工智能機(jī)器真正可能給人類帶來的危機(jī)，不是奴役或取代人類，而是讓人類喪失斗志，安于現(xiàn)狀，或者喪失勇氣，放任自流。因?yàn)闄C(jī)器可能無知無覺地調(diào)動(dòng)了我們?nèi)祟惽榫w大腦里不安的因素，并且發(fā)揮著情緒大腦帶給我們負(fù)性意義。

那將是：人類敗給了人類自己。

[ 補(bǔ)記 ] 昨天和幾個(gè)同行朋友在網(wǎng)上閑聊到人工智能的發(fā)展和人類的危機(jī)，不知道為什么，我突然卻有了一種樂觀的欣然。人類之與機(jī)器的區(qū)別，是個(gè)體相交的基礎(chǔ)是關(guān)系，并不是分析；個(gè)體互動(dòng)的關(guān)鍵是情感互動(dòng)，并不是話術(shù)對(duì)答。如果說有一天機(jī)器人把這些都學(xué)會(huì)了（如果真可以），那它就是一個(gè)人了，我們又何必懼怕，既然我們都是人只不過你數(shù)理化好一點(diǎn)罷了，Who怕Who？人搞人我們最在行了，我們?nèi)祟悮v史上靠的是知識(shí)多少嗎，是運(yùn)算速度嗎，如果只是靠硬件，是就沒毛爺爺什么事了。

不怕不怕，告訴你吧，我們?nèi)祟惾斯ぶ悄芗夹g(shù)發(fā)展的目標(biāo)其實(shí)是：把它丫的變成“人”，讓它們和我們一樣受盡人間疾苦。

真到那時(shí)，我在心理咨詢室里接診的第一個(gè)機(jī)器人來訪者，可能就是因?yàn)椤盀槭裁次医K于能愛人類的她了，她怎么甩了我呀？我好痛苦，腫么辦？”

原題：機(jī)器人會(huì)叛亂嗎 | 人機(jī)大戰(zhàn)的思考

夏濱

喜歡琢磨的心理咨詢師

生活文藝范兒，工作專業(yè)范兒。蝸居杭州專心做咨詢，認(rèn)真做講師。