深度學(xué)習(xí)的“軍備競賽”

深度學(xué)習(xí)，在當(dāng)前特指源于人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)，被認(rèn)為是實現(xiàn)人工智能的必由之路。

隨著“谷歌大腦”識別出YouTube視頻中的貓，人工智能領(lǐng)域再掀高潮，而中國企業(yè)又怎甘落后——2013年1月，在百度年會上，創(chuàng)始人兼CEO李彥宏高調(diào)宣布要成立百度研究院，其中第一個成立的就是“深度學(xué)習(xí)研究所”（IDL，Institue of Deep Learning）。百度甚至在次年挖來了吳恩達(dá)（Andrew Ng，1976年出生，華裔美國人，斯坦福大學(xué)計算機(jī)科學(xué)系和電子工程系副教授、人工智能實驗室主任，是全球人工智能和機(jī)器學(xué)習(xí)領(lǐng)域國際上最權(quán)威的學(xué)者之一）出任百度首席科學(xué)家，由他全權(quán)負(fù)責(zé)研究所的工作。而在另一方面，谷歌、IBM、微軟、Facebook等國外互聯(lián)網(wǎng)巨頭，早已在深度學(xué)習(xí)領(lǐng)域浸淫多時，取得了累累碩果。

2015年3月，李彥宏在兩會上提出“中國大腦”提案，希望將人工智能上升到國家高度，而深度學(xué)習(xí)技術(shù)正是中國大腦的核心所在。深度學(xué)習(xí)對于推動人工智能的發(fā)展與突破具有重大意義，各個企業(yè)乃至國家均開始重視以深度學(xué)習(xí)為代表的人工智能技術(shù)，不約而同的展開了深度學(xué)習(xí)的“軍備競賽”。

什么是深度學(xué)習(xí)

學(xué)習(xí)能力是人類智能的根本特征，人類通過學(xué)習(xí)來提高和改進(jìn)自己的能力。學(xué)習(xí)的基本機(jī)制是設(shè)法將一種情況下成功的表現(xiàn)行為轉(zhuǎn)移到另一類似的新情況中去。1983年西蒙（H. Simon，美國管理學(xué)家和社會科學(xué)家）對學(xué)習(xí)定義如下：“能夠讓系統(tǒng)在執(zhí)行同一任務(wù)或同類的另外一個任務(wù)時，比前一次執(zhí)行得更好的任何改變?！睂W(xué)習(xí)的關(guān)鍵在于對經(jīng)驗的泛化——不僅是重復(fù)處理同一任務(wù)，而且是域中相似的任務(wù)都要執(zhí)行得更好。

而機(jī)器學(xué)習(xí)是人工智能的核心，目前普遍認(rèn)為機(jī)器學(xué)習(xí)是使計算機(jī)具有智能的根本途徑。機(jī)器學(xué)習(xí)方法分為有監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)，而無監(jiān)督學(xué)習(xí)又是實現(xiàn)強(qiáng)人工智能的關(guān)鍵。無監(jiān)督學(xué)習(xí)，是讓計算機(jī)處理未貼標(biāo)簽的數(shù)據(jù)。簡單說就是我們不告訴計算機(jī)要去學(xué)習(xí)什么和認(rèn)知什么，而是讓它自己去學(xué)習(xí)做一些事情。前面，我們已經(jīng)描述了單一感知器的原理，它其實上就是一種有監(jiān)督的機(jī)器學(xué)習(xí)過程。但單一感知器的學(xué)習(xí)方法有一個主要的缺點:它只能學(xué)習(xí)線性可分函數(shù)。后來，人工智能技術(shù)發(fā)展出了多層感知器的神經(jīng)網(wǎng)絡(luò)，比如使用最廣泛的反向傳播法（BP網(wǎng)絡(luò)）。傳統(tǒng)BP網(wǎng)絡(luò)具有三層感知器，只有一個隱層，這就是所謂的淺層學(xué)習(xí)。然而，反向傳播法并不是人類大腦的工作模式，人們沒有在哺乳生物大腦中發(fā)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)的關(guān)鍵結(jié)構(gòu)——調(diào)節(jié)突觸連接強(qiáng)度的逆向連接。但在人工智能體系中，這種自組裝、非線性的系統(tǒng)為廣泛解決模式識別問題提供了可靠途徑。

后來，人工智能學(xué)家提出了含多隱層的多層感知器，這就是一種深度學(xué)習(xí)結(jié)構(gòu)。直到2006年，Hinton等人提出了基于深信度網(wǎng)(DBNs)的非監(jiān)督貪心逐層訓(xùn)練算法，并正式提出了深度學(xué)習(xí)的概念。這是一種無監(jiān)督學(xué)習(xí)模型，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來了希望。除此之外，Lecun等人提出了卷積神經(jīng)網(wǎng)絡(luò)模型(CNNs)。這也是一種多層結(jié)構(gòu)的學(xué)習(xí)算法。在此之后，人工智能科技，尤其是深度學(xué)習(xí)技術(shù)重獲新生并迅速發(fā)展。目前人們一提到人工智能，深度學(xué)習(xí)便是繞不開的課題，其影響力之大可見一斑。

深度學(xué)習(xí)驅(qū)動人工智能發(fā)展

傳統(tǒng)機(jī)器學(xué)習(xí)是通過標(biāo)記數(shù)據(jù)進(jìn)行有監(jiān)督學(xué)習(xí)，在這種學(xué)習(xí)模型下，越來越多的數(shù)據(jù)將會成為負(fù)擔(dān)，也更容易達(dá)到極限或產(chǎn)生錯誤結(jié)果。但深度學(xué)習(xí)是用未經(jīng)標(biāo)記的數(shù)據(jù)進(jìn)行學(xué)習(xí)，這更接近人腦的學(xué)習(xí)方式，可從紛繁復(fù)雜的事物中自行抽象出概念。

對于深度學(xué)習(xí)，以往被視為負(fù)擔(dān)的超大數(shù)據(jù)，將演變成一種資源，其輸出結(jié)果會隨著數(shù)據(jù)量增大而更加準(zhǔn)確。百度首席科學(xué)家吳恩達(dá)將人工智能比喻為待發(fā)射的火箭，深度學(xué)習(xí)技術(shù)就是強(qiáng)大的引擎。

但沒有龐大數(shù)據(jù)作為“燃料”，火箭就不會突破第一宇宙速度，也就無法達(dá)到人工智能的質(zhì)變。而這一切，又依賴上億的神經(jīng)網(wǎng)絡(luò)作支撐，依賴天文數(shù)字一般的數(shù)據(jù)作燃料，而這在以往是不可想象的，但如今我們將有可能將之實現(xiàn)——感謝摩爾定律和互聯(lián)網(wǎng)，我們擁有了強(qiáng)大的芯片和大數(shù)據(jù)技術(shù)，這意味著在不久的將來，人工智能的火箭將要開足馬力，一飛沖天。

深度學(xué)習(xí)不僅是實現(xiàn)人工智能的一種途徑，更是感知外界事物、挖掘數(shù)據(jù)價值、提供決策意見的先進(jìn)手段。深度學(xué)習(xí)帶來的巨大影響不僅體現(xiàn)在人工智能領(lǐng)域，還體現(xiàn)在機(jī)器人技術(shù)、信息化醫(yī)療、社會物理學(xué)和能源等領(lǐng)域。

有“可穿戴科技產(chǎn)品之父”之稱的麻省理工學(xué)院人體動力學(xué)實驗室艾里克斯·本特蘭 （Alex Pentland），其研究的社會物理學(xué)就是基于大數(shù)據(jù)對人類的各種社會行為進(jìn)行量化分析，判斷相關(guān)關(guān)系、得出系統(tǒng)結(jié)論、提供決策依據(jù)。氣候問題往往被認(rèn)為是“蝴蝶效應(yīng)”的混沌學(xué)代表，而加利福尼亞大學(xué)伯克利分校的能源專家丹尼爾·卡門(Daniel Kammen)則試圖基于大數(shù)據(jù)來解決氣候變遷這個宏大的人類課題。而在將來的某一天，經(jīng)過深度學(xué)習(xí)后的機(jī)器大腦，或許將會達(dá)到我們完全想象不到的命題與結(jié)論，這會極大的豐富人類知識、拓展人類眼界。

而在備受矚目的機(jī)器人領(lǐng)域，康納爾大學(xué)創(chuàng)意機(jī)器人實驗室主任胡迪·利普森(Hod Lipson)為我們帶來了基于深度學(xué)習(xí)技術(shù)制造的“元認(rèn)知（Metacognition）”機(jī)器人。他的研究團(tuán)隊沒有為這種機(jī)器人的活動進(jìn)行編程，而是讓它自己在不斷試錯中感知自己的存在，尋找到合適的行走方式。從這個意義上說，機(jī)器人在不斷進(jìn)化，它從一種簡單的初級形態(tài)學(xué)習(xí)成長為具有較復(fù)雜智能的智能個體。而且，這種機(jī)器的學(xué)習(xí)能力是有加速度的，它不會像30歲之后的人那樣智力會停滯和退化。因此，深度學(xué)習(xí)技術(shù)的成熟很可能帶來智能爆炸，它將是智能化浪潮中影響最深遠(yuǎn)的“海底地震”。

——本文摘自《智能爆炸：開啟智人新時代》一書

作者：王漢華、劉興亮、張小平