▲

宋鴻兵：智能意識(shí)能否人工制造，人工智能能否毀滅人類

■ 文 | 宋鴻兵

自從去年谷歌的阿爾發(fā)狗戰(zhàn)勝了世界圍棋冠軍李世石之后，人工智能這個(gè)概念就變得超級(jí)火爆，在全世界范圍之內(nèi)，引起了大家的普遍關(guān)注。現(xiàn)在你不管走到什么場(chǎng)合，如果不談點(diǎn)人工智能的話，那就顯得非常OUT。這個(gè)詞現(xiàn)在的火爆程度，比前兩年的什么物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、虛擬現(xiàn)實(shí)，要火爆得多。

關(guān)于人工智能的對(duì)立觀點(diǎn)

但是大家在討論人工智能的時(shí)候，往往會(huì)涉及到一個(gè)有爭(zhēng)議的話題，就是人工智能最終會(huì)不會(huì)取代人類？一旦涉及這樣一個(gè)話題，人們立刻會(huì)形成兩派，然后開始激烈爭(zhēng)論，最后甚至到了人身攻擊的程度。大家對(duì)人工智能，最后它能夠發(fā)展到什么程度，會(huì)不會(huì)把人類整個(gè)取代掉，有明顯的爭(zhēng)議性。

但是目前看起來，多數(shù)人認(rèn)為人工智能應(yīng)該不至于會(huì)徹底取代人類，但是還有少數(shù)人認(rèn)為會(huì)。而且這些少數(shù)人中間，有很多人是很有影響力的，比如霍金，他就說，人工智能有可能是人類文明的最后一項(xiàng)發(fā)明，再往后人類就被滅掉了。還有特斯拉的馬斯克，他也是比較有代表性的一個(gè)人物，他就認(rèn)為現(xiàn)在我們?nèi)ジ闳斯ぶ悄?，就好比是在召喚惡魔，人工智能這個(gè)惡魔一旦喚醒之后，那對(duì)世界的危害就太大了，它的危險(xiǎn)性甚至超過了核武器。

兩種觀念是非常尖銳對(duì)立的。而且討論來討論去，最后發(fā)展成了一種很情緒化的對(duì)立，因?yàn)檎f不清楚。毛病出在哪兒呢？其實(shí)就出在我們對(duì)于一些最基本的概念的定義，包括它的邊界，沒有說清楚。所以我們不能把理性的能量聚焦在一個(gè)邏輯點(diǎn)上，這就產(chǎn)生了混淆。

所以我們?cè)谟懻摰降兹斯ぶ悄?，最后?huì)不會(huì)取代人類的時(shí)候，一定要把一些最基本的概念搞清楚。

智能與人工智能

什么是智能，什么又是人工智能，必須先把這兩個(gè)概念搞清楚。比如說智能，它的英文叫intelligent，這個(gè)詞源是個(gè)拉丁詞，最原始的本意就是理解。我們知道在中世紀(jì)，天主教會(huì)他們形成了經(jīng)院哲學(xué)，這中間有一套思想體系就是目的論，世界上萬(wàn)事萬(wàn)物都是由神創(chuàng)造出來的，所以每件事物都有它存在的目的和意義。對(duì)于我們?nèi)祟悂碚f，就是要去理解神創(chuàng)造這些東西的含義是什么。到了16世紀(jì)，科學(xué)理性主義崛起之后，大家就把這個(gè)概念給替換掉了，替換成人們要去理解萬(wàn)事萬(wàn)物背后的自然規(guī)律。再往后，智能這個(gè)詞在哲學(xué)中逐漸被邊緣化了，一直到19世紀(jì)末，心理學(xué)家才重新把這個(gè)詞發(fā)現(xiàn)起來，重新賦予它新的含義。

這就是我們現(xiàn)在說的智能的含義，不過關(guān)于這點(diǎn)，其實(shí)心理學(xué)家并沒有一個(gè)統(tǒng)一的見解和認(rèn)識(shí)。他們對(duì)智能的定義至少有十幾種，歸根到底是個(gè)什么意思呢？智能，就是人們理解周圍環(huán)境，并做出適應(yīng)的一種理性的能力。這種理性能力包括邏輯推理，包括理解復(fù)雜的概念，包括制定計(jì)劃，包括完成任務(wù)，還包括從經(jīng)驗(yàn)中學(xué)習(xí)等等。所以從這些定義來看的話，一個(gè)最關(guān)鍵的詞，就是理性思維。

那么什么是人工智能呢？人工智能研究的中心，就是所謂的智能體。人造的智能體，它既可以是一個(gè)硬件機(jī)器，也可以是一個(gè)軟件。這個(gè)智能體它做什么用呢？它其實(shí)就是在感知周圍環(huán)境發(fā)生的變化，感知到這種變化之后，通過模擬人的理性思維能力，來做出各種應(yīng)對(duì)，找到一個(gè)最佳的解決問題的方式。

比如阿爾發(fā)狗，就是軟件的智能體。它主要就是來感知它周圍環(huán)境，也就是棋局中發(fā)生的變化，知道這個(gè)變化之后，然后它再找最優(yōu)的算法，或者最合理的解決之道，來戰(zhàn)勝對(duì)手。再比如自動(dòng)駕駛汽車，它就是個(gè)硬件的智能體，它感知街道上的人流、車流，和各種突發(fā)事件。感知到這種變化之后，然后來求取一種躲避障礙，或者避免事故的最佳狀態(tài)和最佳辦法。

所以從這兩個(gè)定義，我們大概能夠看出，人工智能，它是一種模擬人理性思維能力的一種手段。

搞明白這個(gè)基本概念之后，我們?cè)倏措p方的爭(zhēng)議，就能夠看的比較清楚了。樂觀派的人認(rèn)為，人工智能從最根本意義上來說，不過就是一臺(tái)計(jì)算器，它跟傳統(tǒng)計(jì)算器不太一樣，傳統(tǒng)計(jì)算器你按一加一，就會(huì)自動(dòng)算出等于二，中間這個(gè)輸入和輸出，中間這個(gè)函數(shù)關(guān)系是很明顯的，加減乘除解決問題。

但是人工智能這個(gè)算法，它比簡(jiǎn)單的函數(shù)要復(fù)雜。比如說我給你一張照片，讓你識(shí)別中間是不是一只貓，輸出就是最后你判斷是還是不是。從輸入到輸出之間，這個(gè)黑匣子里面，這個(gè)邏輯關(guān)系或者叫函數(shù)關(guān)系，你是沒有辦法把它定義出來的，你寫不出來，或者用數(shù)學(xué)公式很難表達(dá)。怎么辦？我們?nèi)耸怯修k法，但是你讓機(jī)器去識(shí)別，它不知道該怎么做。

人工智如何自主驅(qū)動(dòng)

人工智能深度學(xué)習(xí)這套體系，就是為了解決這個(gè)困境的。簡(jiǎn)單說它就是模擬人的這種思維方式，把神經(jīng)元分成若干層，在每一層中定義函數(shù)，和神經(jīng)元之間的這種相關(guān)的權(quán)重，然后逐層不斷的把原始數(shù)據(jù)進(jìn)行抽象，一直抽象到最后，判斷是貓或者不是貓。一開始設(shè)計(jì)都是一些隨機(jī)的權(quán)重，最后你發(fā)現(xiàn)，原來你判斷錯(cuò)了，那再用這個(gè)信息偏差作為糾錯(cuò)，反饋回來重新調(diào)整，這個(gè)權(quán)重再重新梳理一遍，重新配置，最后看這個(gè)誤差是不是變小了，如果變小了，說明你這個(gè)調(diào)整方式是正確的。但是更先進(jìn)的人工智能，你甚至連結(jié)點(diǎn)上的函數(shù)關(guān)系也可以調(diào)整。

搞明白這個(gè)東西之后，其實(shí)對(duì)于樂觀派來說，你不管中間內(nèi)部的算法多復(fù)雜，它還是一臺(tái)計(jì)算器，只不過功能性更強(qiáng)，只不過它比原始的簡(jiǎn)單函數(shù)要更復(fù)雜一些。但是人始終控制著輸入，最后這個(gè)輸出，也是為人服務(wù)的。

如果我們從經(jīng)濟(jì)學(xué)視角來看問題的話，亞當(dāng)·斯密的分工理論，也是在解決類似問題。就是以前你原材料來了一批鐵塊，然后我要進(jìn)行各種各樣的工序，最后把它加工成一個(gè)鉤針，這套工序體系很復(fù)雜，我一個(gè)人干效率太低，怎么辦？我把這么復(fù)雜，就像一個(gè)函數(shù)這樣復(fù)雜的流程，我把它切成段，分成若干道工序，每一道工序我只做一個(gè)簡(jiǎn)單的工作，而最后我生產(chǎn)效率可以成百倍地提高。

人工智能做的不就是亞當(dāng)·斯密這種分工嗎？你無(wú)非是把復(fù)雜的函數(shù)，或者無(wú)法描述的函數(shù)，用簡(jiǎn)單的分層的函數(shù)來模擬而已嘛。所以理解了這點(diǎn)之后，人工智能的一切應(yīng)用場(chǎng)景，就沒有什么稀奇的，沒有什么特別難以理解的。

比如說你怎么才能夠自動(dòng)的寫一個(gè)股票市場(chǎng)的金融分析報(bào)告呢？你無(wú)非是告訴機(jī)器，你到哪里去獲得這個(gè)輸入，或者我來喂給你也行，最后你通過這樣的一個(gè)分層的深度學(xué)習(xí)機(jī)制，輸出的結(jié)果就是金融報(bào)告。我給你一張X光，你也像識(shí)別貓似的，把各種抽象信息識(shí)別出來之后，形成你的診斷。自動(dòng)駕駛汽車，無(wú)非是我告訴你，或者你自己去獲取周邊環(huán)境變化的這些變化量，最后得出怎么來操縱汽車的控制信號(hào)而已。

所以從根本意義上來說，人始終是這個(gè)智能體的控制者。我控制者你的輸入，我享受你最后的輸出這種服務(wù)，你是為我服務(wù)的。所以就這個(gè)意義來講，這個(gè)級(jí)別上的人工智能，并不會(huì)取代人類，這是樂觀派的一個(gè)基本的判斷。

但是霍金他們這派悲觀派，他們對(duì)這個(gè)問題，卻有不同的認(rèn)識(shí)。其實(shí)在我看來，他們?cè)谟懻撝星那牡囊肓艘粋€(gè)全新的概念，這個(gè)全新的概念就是“意識(shí)”。他們假設(shè)無(wú)數(shù)的這種智能體，已經(jīng)具有人工智能的，人類理性思維，可以模擬人類理性思維的智能體，假如聯(lián)上網(wǎng)聯(lián)網(wǎng)，這種智能體聯(lián)上網(wǎng)之后，在某一個(gè)時(shí)刻，會(huì)突然的自發(fā)的進(jìn)化出一種意識(shí)，或者叫涌現(xiàn)出意識(shí)。這種意識(shí)讓他們突然感覺到，我為什么要受人類控制啊，我為什么不能去取代人類呢，我為什么輸出要為人類服務(wù)，不為我自己服務(wù)呢？