第49期威觀察

編輯：風(fēng)兒

來源：《互聯(lián)網(wǎng)周刊》

正如哥德巴赫猜想是數(shù)論皇冠上的明珠，微軟創(chuàng)始人比爾·蓋茨曾經(jīng)如是說，“自然語言理解是人工智能領(lǐng)域皇冠上的明珠”。

自然語言處理（NLP）是計算機(jī)科學(xué)領(lǐng)域和人工智能領(lǐng)域中的一個分支，它與計算機(jī) 和 人類之間使用自然語言進(jìn)行互動密切相關(guān)。NLP的最終目標(biāo)是使計算機(jī)能夠像人類一樣理解語言。它是虛擬助手、語音識別、情感分析、自動文本摘要、機(jī)器翻譯等的驅(qū)動力。在這篇文章中，你將學(xué)習(xí)到自然語言處理的基礎(chǔ)知識，深入了解到它的一些技術(shù)，了解到NLP如何從深度學(xué)習(xí)的最新進(jìn)展。

比爾·蓋茨所說的自然語言理解是自然語言處理的一個重要組成部分。自然語言處理的英文是Natural Language Processing，一般被簡寫為NLP，它實(shí)際上包括了三個方面：語音識別、自然語言理解與語音合成（有一些人把語音識別作為自然語言處理之外的技術(shù)，在本文中，我們將語音識別也包含在自然語言處理的技術(shù)范疇之內(nèi)）。

霍金不會說話，但英特爾公司給他定制的電腦輪椅可以幫他說話，這背后所利用的技術(shù)就是語音合成技術(shù)。語音合成技術(shù)可以把文本信息轉(zhuǎn)化為語音信息。當(dāng)然了，霍金的電腦輪椅設(shè)備是沒有人工智能的（也就是說語音合成并不一定是人工智能，關(guān)鍵還是要看機(jī)器背后的算法）。

科學(xué)家們已經(jīng)可以讓電腦像人那樣自主說話，這個時候電腦就具有人工智能的語音合成。比如微軟小冰，比如 “賢二”機(jī)器人和尚，這些會說話的機(jī)器人都具有人工智能。

自然語言處理（NLP）是計算機(jī)科學(xué)、語言學(xué)和機(jī)器學(xué)習(xí)的交叉點(diǎn)，它關(guān)注計算機(jī)與人類之間使用自然語言中的溝通交流?？傊琋LP 致力于 讓計算機(jī)能夠理解和生成人類語言。NLP技術(shù)應(yīng)用于多個領(lǐng)域，比如 天貓精靈 和Siri這樣的語音助手，還有機(jī)器翻譯和文本過濾等。 機(jī)器學(xué)習(xí)是受NLP影響最深遠(yuǎn)的領(lǐng)域之一，尤為突出的是深度學(xué)習(xí)技術(shù) 。該領(lǐng)域分為以下三個部分：

1. 語音識別 ： 將口語翻譯成文本。

2. 自然語言理解 ： 計算機(jī)理解人類的能力。

3. 自然語言生成 ： 計算機(jī)生成自然語言。

自然語言處理是工業(yè)界與學(xué)術(shù)界都關(guān)注的人工智能領(lǐng)域，這一領(lǐng)域的突破性發(fā)展與深度學(xué)習(xí)算法的成熟有直接的關(guān)系。加拿大多倫多大學(xué)的辛頓是深度學(xué)習(xí)的先驅(qū)，他和學(xué)生于2006年發(fā)表在《科學(xué)》上的文章提出了降維與逐層預(yù)訓(xùn)練的方法，這使得深度學(xué)習(xí)成為可能。2009年，微軟亞洲研究院的鄧力小組開始與辛頓合作，用深度學(xué)習(xí)加上隱馬爾科夫鏈模型開發(fā)了實(shí)用的語音識別與同聲翻譯系統(tǒng)。

從學(xué)術(shù)界來說，中國大陸地區(qū)除了微軟亞洲研究院，還有哪些研究機(jī)構(gòu)設(shè)置了自然語言處理的實(shí)驗(yàn)室呢？據(jù)《互聯(lián)網(wǎng)周刊》了解，清華大學(xué)自然語言處理與社會人文計算實(shí)驗(yàn)室、北京大學(xué)計算機(jī)科學(xué)技術(shù)研究所語言計算與互聯(lián)網(wǎng)挖掘研究室、哈工大機(jī)器智能技術(shù)與自然語言處理實(shí)驗(yàn)室、中科院自動化研究所語音語言技術(shù)研究組、南京大學(xué)自然語言處理研究組、復(fù)旦大學(xué)自然語言處理研究組等都對自然語言處理有深入的研究。

一般來講，自然語言處理的步驟主要分為6步：1、獲取原始文本；2、對文本進(jìn)行預(yù)處理； 3、分詞：將文章按詞組分開；4、詞法分析：對名詞、動詞、形容詞、副詞、介詞進(jìn)行定性； 5、語法分析：分析主語、謂語、賓語、定語、狀語、補(bǔ)語等句子元素；6、語義分析：將句子的正確含義表達(dá)出來。

20世紀(jì)的80年代，自然語言處理的語音識別方面開始取得了突破性的進(jìn)展，當(dāng)時以李開復(fù)為代表的人工智能科學(xué)家摒棄了符號主義學(xué)派的方法，選擇用統(tǒng)計模型來破解語音識別的難題，將語音識別的準(zhǔn)確率提高到了一個全新的高度。但當(dāng)時這個方法離真正的實(shí)用化還是有很遠(yuǎn)的距離。因此，在當(dāng)時并沒有誕生出擅長對話的機(jī)器人。

于是，科學(xué)家開始發(fā)展新的自然語言處理的算法。這里面包括Word2vec、CRF、LDA，LSA、SVD等。

2010年以后，一種更加有效的人工智能算法——深度神經(jīng)網(wǎng)絡(luò)重新打造了語音識別的算法框架。在這個過程中，以科大訊飛為代表的語音識別公司開始崛起，其開發(fā)的語音識別產(chǎn)品已經(jīng)開始進(jìn)入實(shí)用化的階段。

2013年，谷歌的語音識別系統(tǒng)對英語單詞的識別錯誤率已經(jīng)下降到23%左右。到了2015年，谷歌的語音識別系統(tǒng)再次刷新了記錄，利用深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，它們將單詞的識別錯誤率下降到了8%。

在這個過程中，微軟也不甘落后，在2016年，微軟的語音識別系統(tǒng)成功地將單詞識別錯誤率下降到了6.3%。

到了今天，語音識別技術(shù)作為自然語言處理的一個側(cè)面已經(jīng)非常成熟。比如科大訊飛的語音輸入法可以幫助我們在一分鐘內(nèi)完成400個漢字的輸入。人工智能在自然語言處理上已經(jīng)開始實(shí)現(xiàn)產(chǎn)業(yè)化落地，成為真正能對人們的日常生產(chǎn)與生活產(chǎn)生價值的新工具。

科大訊飛創(chuàng)辦于1999年，目前已經(jīng)成為中國最有名的自然語言處理的龍頭企業(yè)，它于2008年成為中國人工智能語音產(chǎn)業(yè)界的第一家上市公司。在2016年阿爾法狗打敗李世石之后掀起的人工智能熱潮中，科大訊飛的股價也是水漲船高，得到了資本市場的瘋狂追捧。2017年，隨著資本大量涌入與相關(guān)科技政策的不斷加持，科大訊飛股價一度創(chuàng)下歷史新高74.76元/股，市值突破千億大關(guān)。

但是，看起來如此幸運(yùn)的科大訊飛，在成立的最初幾年里，也面臨前所未有的運(yùn)營壓力。

科大訊飛的相關(guān)領(lǐng)導(dǎo)曾經(jīng)這樣描述當(dāng)年的困境：“我們剛開始創(chuàng)業(yè)的時候是挺難的，沒有錢，沒有市場，也沒有資源背景，所以是很難的草根創(chuàng)業(yè)。最開始大家租了個房，沒白天沒黑夜地干。最困難的時候是什么呢？快過年了，發(fā)不出工資，只能以個人的名義去借錢渡過難關(guān)。公司從成立到盈虧平衡我們用了5年的時間，這五年我們天天在投入，卻不見產(chǎn)出?！?/span>

由此可見，作為人工智能時代的弄潮兒，科大訊飛能有今天的輝煌，離不開當(dāng)年的艱苦付出。

要理解這一段歷史，其實(shí)還需要理解自然語言處理背后的人工智能算法的發(fā)展過程。其實(shí)在科大訊飛的早年歲月，人工智能自然語言處理的算法并不成熟。從這個意義上來說，科大訊飛是一個早產(chǎn)兒。只有到了2006年，深度學(xué)習(xí)的創(chuàng)始人杰弗里.辛頓及合作者發(fā)表了一個里程碑的文章《一種深度置信網(wǎng)絡(luò)的快速學(xué)習(xí)算法》以后，這一論文宣告了深度學(xué)習(xí)時代的真正來臨。只有在深度學(xué)習(xí)算法的指引下，人工智能才真正進(jìn)入了實(shí)用化階段。

因此，2006年是人工智能發(fā)展的分水嶺。從這個意義上來說，1999年就成立的科大訊飛出生的太早了。

科大訊飛在漫長的時間賽道上長跑，通過自主研發(fā)不斷更新技術(shù)。從國際上來看，根據(jù)Research and Markets報告，在全球語音市場，谷歌、微軟、蘋果和科大訊飛是“四大高手”。它們在全球市場份額分別為20.7%、13.4%、12.9%和6.7%，從這個意義上來說，科大訊飛在自然語言處理上的專項(xiàng)能力是非常杰出的，確實(shí)已經(jīng)超越了國內(nèi)的其他大公司。

在終端消費(fèi)者應(yīng)用方面，科大訊飛的財報顯示，目前訊飛輸入法總用戶發(fā)展至5.6億；訊飛翻譯機(jī)銷售近數(shù)十萬臺，用戶已在覆蓋全球130個國家。

自然語言處理的應(yīng)用前景相當(dāng)廣泛，它可以進(jìn)行很多工作，比如機(jī)器翻譯，典型的機(jī)器翻譯有百度翻譯、谷歌翻譯等。自然語言處理還可以用到信息檢索和過濾，比如在大流量的信息中尋找關(guān)鍵詞，在網(wǎng)絡(luò)瞬時檢查敏感文字信息。

形形色色的應(yīng)用造就了形形色色的企業(yè)，《互聯(lián)網(wǎng)周刊》整理了自然語言處理領(lǐng)域的代表性公司。

目前，專注于自然語言處理的公司相當(dāng)多，外國大公司有谷歌、蘋果等，在國內(nèi)也涌現(xiàn)了科大訊飛、百度、云知聲與思必馳等著名企業(yè)。而且這些企業(yè)都有學(xué)院派的背景，比如在蘇州的思必馳的創(chuàng)始人俞凱本身就是英國劍橋大學(xué)的博士，后來成為上海交通大學(xué)的教授，他的研究團(tuán)隊里就有很多來自上海交通大學(xué)的博士生。在俞凱教授的推動下，思必馳與上海交通大學(xué)成立了Speech Lab聯(lián)合語音實(shí)驗(yàn)室，側(cè)重前沿語音技術(shù)的研發(fā)及轉(zhuǎn)化，取得較多技術(shù)成果，例如，他們推出的VDCNN抗噪算法模型，在噪聲環(huán)境語音識別的業(yè)界基準(zhǔn)庫Aurora4上，取得了7.09%的詞錯誤率，相比于世界其他機(jī)構(gòu)目前10%左右的最好結(jié)果，有一個大幅度的提高；而他們開發(fā)的PSD新型解碼框架則使語音識別系統(tǒng)的速度累積提高20-30倍，內(nèi)存下降50%以上。產(chǎn)學(xué)研一體化模式，為思必馳進(jìn)一步拓展市場起到了極大作用。

目前的自然語言處理的公司很多都與高校結(jié)盟進(jìn)行創(chuàng)新發(fā)展，雖然有高等學(xué)校的智力支持，但中文語言的處理比起西方語言更加難以處理。其中最令人費(fèi)解的是多語義現(xiàn)象。

比如假設(shè)在兩場籃球比賽中，中國隊都打敗了美國隊。在中文報道中可以分別使用“中國隊大勝美國隊”、“中國隊大敗美國隊”來作為標(biāo)題。這其實(shí)是同一個意思，但人工智能自然語言處理則很容易把這個語義分析錯。

再舉一個例子，比如“今天下雨路滑，我騎車差點(diǎn)翻倒，幸虧我一把把把把住了”。在這句話中，出現(xiàn)了很多“把”字，人工智能如果不了解其中有一個“把”字是“車把”的意思，也是很難理解這句話的。

因此，在自然語言處理方面，還有許多的問題需要解決，比如訓(xùn)練數(shù)據(jù)的缺乏、成語俗語方言的精確處理。而在這里，其實(shí)算法還是最關(guān)鍵的。

但是，技術(shù)的進(jìn)步是不可阻擋的滾滾潮流，中國在這方面已經(jīng)做得相當(dāng)不錯。科大訊飛的董事長劉慶峰認(rèn)為，科大迅飛在語音合成、語音識別、口語評測、語言翻譯、聲紋識別、人臉識別、自然語言處理等智能語音與人工智能核心技術(shù)上已經(jīng)達(dá)到了國際最高水平。

將來隨著自然語言處理技術(shù)越來越成熟，計算機(jī)能夠更加正確理解人類的語言，相關(guān)的人工智能產(chǎn)品將不斷落地，像“賢二和尚”這樣的聊天機(jī)器人一定會變得越來越智能。