|
點擊標題下「大數(shù)據(jù)文摘」可快捷關注 大數(shù)據(jù)文摘翻譯作品
作者：保羅福特 紐約自由撰稿人 譯者：陸興海(Yak) 校對：孫沁(Kiki) 如需轉載，后臺留言申請授權 歡迎熟悉外語（含各種“小語種”）的朋友，加入大數(shù)據(jù)文摘翻譯志愿者團隊，分別回復“翻譯”和“志愿者”可了解更詳細信息。 幾年以前我和一個剛剛創(chuàng)業(yè)的朋友品茶小聚，他剛過不惑之年卻飽受背傷之苦，父親也疾病纏身，一切痛楚讓他覺得被生活所拖累，嘗盡命運捉弄之苦?！安慌履阈υ挕保岬?，我現(xiàn)在真是“四處拜佛，以求得上天保佑有奇跡降臨我身”。 我的朋友浪跡科技圈，親眼見證了微處理器頻繁迭代更新以及互聯(lián)網(wǎng)的迅猛發(fā)展，但那也不足以讓他確信，在他發(fā)生中年危機之前——機器的智慧會超越人類，這才是未來學家稱之為見證奇跡的時刻。一個善良的超級智能可以快速地分析出人類遺傳密碼并解開永恒青春的秘密，或者至少它可以知道如何治療一個人的背痛。 但是如果人工智能不“善良”又當如何？，牛津大學的未來人類研究所負責人尼克·博斯特倫在他的《超級人工智能》一書中描述了如下場景，而這個描述直接引發(fā)了一系列關于未來人工智能的口水仗。是什么場景呢，假設有一臺我們稱之為“高效回形針生產(chǎn)者”的機器——它能制造出盡可能多的回形針。好，現(xiàn)在想象這機器不知何故突然變得不可思議的聰明，給它制造環(huán)形針的任務后，它決定先創(chuàng)造出更高效的回形針制造機器——直到就像古希臘國王邁達斯一樣，它會把幾乎所有的東西都變成環(huán)形針。 [譯者注：森林之神西勒諾斯和酒神狄俄尼索斯為了回報古希臘國王邁達斯的盛情款待，許諾可以實現(xiàn)他的任何愿望。貪財?shù)倪~達斯請求讓自己碰到的東西都變成黃金，但他很快就趕到后悔了，因為就連他的食物和水，甚至他的女兒也都變成了黃金。邁達斯在狄俄尼索斯指示下在河中沐浴后才得以解脫，據(jù)說后來河里的沙子中也含著金子。] 沒問題，你可能淡定地說：可以通過程序準確控制，讓它只生產(chǎn)出一百萬環(huán)形針之后停止運行即可。但是假如它造出環(huán)形針之后決定去檢驗他的產(chǎn)出怎么辦？計數(shù)正確嗎？這種不確定性怎么檢查？為了確保正確性，它必須要更加聰明，所以這個超級智能機器制造了一些以前沒人發(fā)明的原始計算材料（稱之為：computronium），用它們來檢查每一個不確定性。但是每一個新的不確定性會引發(fā)更多的數(shù)字化不確定性，所以如此反復，直到整個地球都會變成computronium——而不是一百萬個回形針。 博斯特羅姆并不認為高效回形針生產(chǎn)者能夠成為現(xiàn)實，準確來講，它僅僅是一個頭腦中的概念實驗，一個來揭示“即使再仔細的系統(tǒng)設計也無法限制極端機器智能”的設計。但是他相信超級智能會出現(xiàn)，而且是相當牛的，他認為這個超級智能會自主決定不依賴身邊的人類，或者作出一些毀滅世界的事情來。 如果這種論調(diào)你覺得很荒唐，也有一些人和你一樣，評論家比如機器人先驅羅德尼布魯克斯說，“懼怕人工智能失控的那些人對電腦在做什么和說它們在思考或者變得更加聰明有所誤解”。從這個角度來看，博斯特羅姆所描述的超級人工智能也許是在遙遠的未來，也許是永遠也不可能的。 然而還是有很多深思熟慮的聰明人同意博斯特羅姆的觀點并憂心忡忡，為啥？ 意志 從一開始，機器是否能思考這個問題就給計算科學帶來了一絲陰影，艾倫圖靈在1950年就提出，機器可以像小孩子一樣被教誨。約翰麥卡錫——LISP語言的發(fā)明者，在1955年創(chuàng)造了“人工智能”這個概念。在上世紀六十和七十年代，人工智能的研究專家們開始利用計算機來識別圖像、翻譯文字、理解自然語言而非程序代碼，最終計算機會具有思考和說話能力并且會去作惡的觀點就慢慢滲透到主流文化中。甚至有點超越了經(jīng)典電影《2001：太空奧德賽》，1970年的電影《巨人:福賓計劃》描述了一個巨大的閃爍的電腦主機給地球帶到了核毀滅的邊緣。十三年后，另外一個同類題材的《戰(zhàn)爭游戲》也進行了探討，該片講述了1973的西部世界機器人變得瘋狂并開始殺戮。 當人工智能的研究偏離了當初的崇高目標，預算也變得緊張，于是人工智能的冬天來到了。即便如此，“智能機器”的火炬在上世紀八十年代和九十年代，被科幻作家弗諾文奇高舉和傳遞下來，他提出和了推廣一個經(jīng)典的概念叫“技術奇點”；研究人員比如機器人專家莫拉維克，計算機視覺方面的權威；工程師兼企業(yè)家雷庫茲韋爾，1999年《靈魂機器的時代》一書的作者。而圖靈則假定了一個像人一樣的智能，文奇、莫拉維克和庫茲韋爾三人思考的更深遠一些：當一個計算機可以獨立設計解決方案來達成目標時，它同時就很有可能具有了反思的能力——進而就能夠修改程序使自己變得更加智能。在很短的時間內(nèi)，這樣的計算機更很有可能設計更適合自己的硬件。 就像庫茲韋爾描述的那樣，如此會開啟一個美麗的新紀元。這樣的機器會具有洞察力和忍耐力（皮秒單位）來解決納米技術和星際飛行的中的問題。它們會幫助突破人類的條件限制并且能夠讓我們把意識變成不朽的數(shù)據(jù)，智慧將分散遍布到整個宇宙。 你同樣可以聽到與如此陽光樂觀態(tài)度截然相反的說法，史蒂芬霍金就這樣警告說，因為人類是無法與強大的人工智能抗衡的，這很可能會導致人類的終結。在讀完《超級智能》之后，企業(yè)家艾隆·馬克斯在推特上說，“希望我們不只是數(shù)字超級智能生物的引導裝載程序。但不幸的是，這越來越變得可能”，馬斯克隨后給未來生活研究所投資了一千萬美元。與博斯特羅姆的中心不同，這個組織的目的是致力于緩解人類面臨的生存風險。 沒有人會說現(xiàn)在就有那種超級智能存在，事實上，我們還沒有清晰的路徑或者是解決方案來實現(xiàn)一個通用的人工智能。關于人工智能的最新進展，比如蘋果公司的Siri語音助手到谷歌的無人駕駛汽車，同樣也揭示出當前技術的嚴重限制，兩者在面對未知場景時都會變得不知所措。人工神經(jīng)網(wǎng)絡可以實現(xiàn)自學并且在一大推圖片中識別出貓咪，但是前提是必須有成百上千的樣本，即使這樣其準確性也不是特別高。 懷疑論者如布魯克斯，iRobot和反思機器人的創(chuàng)始人，在這一點上也有話說。即便是相比以前電腦的功能，能認出一只貓確實令人印象深刻，但是這臺機器沒有意識——它并不知道貓是什么以及圖片上發(fā)生了什么，更別說無數(shù)的人類所具有的洞察力。從這種角度來看，人工智能會發(fā)展向智能機器，會從事更多的工作——這點會超出像博斯特羅姆這些人的想象。而且即使如果能夠實現(xiàn)，也未一定要把人工智能發(fā)展到具有知覺的能力。 基于當前人工智能的情形來推斷，就說它迫在眉睫，“簡直就和看到了內(nèi)燃機的出現(xiàn)就跳躍式的想到星際艦隊立馬就能實現(xiàn)一樣”，布魯克斯最近在Edge.org文章中寫道，“那種邪惡的人工智能無需擔憂，至少幾百年內(nèi)不會出現(xiàn)”。 保險政策 即便超級智能出現(xiàn)的幾率非常遙遠，或許這也是不負責任的冒險。一位加州大學伯克利分校計算科學的教授斯圖爾特J.羅素分享了博斯特羅姆的觀點。羅素和彼得諾維格（庫茲韋爾在谷歌的同事）合作完成了《人工智能：一種現(xiàn)代方法》，該書是近二十年內(nèi)的人工智能領域經(jīng)典教科書。 “很多聰明的學者沒有找到門路”，羅素告訴我。他指出，在過去十年里人工智能已經(jīng)有了非常大的發(fā)展，而且當公眾或許可以用摩爾定律來理解這個進展，實際上，當今的人工智能是非?；A的，像深度學習技術的應用，讓計算機不斷加深它們對世界的理解。 因為谷歌、臉書以及其它公司積極探索實現(xiàn)智能的、學習的機器，他推理到，“在未清楚考慮所有的潛在風險之前，請不要去全力發(fā)展超級智能這件事，否則就有些愚蠢”。羅素同時做了一個類別，“這就像是聚變研究，如果你問一個研究人員他在做什么？他們會說他們正致力于密度封，如果你想要無限的能量，你最好包括聚變反應”。類似的，他說，“如果你想要無限的智能，你最好指出如何讓電腦根據(jù)人類的需求擺放”。 博斯特羅姆的書就是這樣做的研究提議。一個超級智能將像神一樣，但是它將會因為恨或者愛做什么，那取決于我們（就是工程師），就像任何父母，我們必須教給孩子們一系列具有正能量的人性的價值觀，我們基本上是在告訴一個神讓它知道應該如何對待我們?nèi)祟愖约?。怎么繼續(xù)？ 博斯特羅姆從思想者以利以謝尤德考斯基得到的一個觀點，利以謝尤德考斯基曾經(jīng)提到，“相干外推的意志”——那就是每個人的“最好自我的”共識來源。我們希望人工智能將會給我們一個富裕、幸福以及滿足的生活：治愈背傷以及幫助我們登陸火星。由于我們?nèi)祟愑肋h不會在一件事上達成完全的一致，我們有時需要它來為我們決策——立足全局幫助人類獲取最好的決定。然后我們?nèi)绾伟堰@些價值觀植入到我們的超級智能（或者是潛在的超級智能）呢？哪種數(shù)學算法能夠定義它們？這些都是問題，博斯特羅姆覺得都應該現(xiàn)在解決，“這是我們這個時代的首要任務”。 對于老百姓而言，沒必要因為邪惡機器人的事情而杞人憂天，以我們現(xiàn)在的技術水平離超級智能還遠著呢。再嘮叨一下，那些全球大公司熱衷于研究如何讓他們的電腦更加智能，確實，真正的人工智能會讓這些公司取得不可思議的商業(yè)成就，但是他們也必須要充分考慮到這件事情的潛在負面影響并且能夠清楚的知道應該如何避免。 這里還有一些更細致的建議——沒有所謂關于人工智能不斷逼迫的威脅，這是未來生活研究所（獲得馬斯克捐助的一個組織）官網(wǎng)上一篇公開信的論調(diào)，信中呼吁，應當在避免潛在陷阱的同時最大化從人工智能研究中獲益，而不是一味的強調(diào)其潛在的災難威脅。聯(lián)名簽字的不僅僅有人工智能的門外漢比如霍金、馬斯克和博斯特羅姆，還有突出的計算科學家（如丹尼斯哈薩比斯，頂級人工智能專家）。你可以看到他們的背景，畢竟，如果他們開發(fā)的人工智能沒有傳遞人類正能量的價值屬性，那就意味著他們沒有聰明到能夠控制他們創(chuàng)造出來的東西。 【譯者簡介】
陸興海（英文名：Yak，微信：yak1982），2007年碩士畢業(yè)于西北工業(yè)大學，信息化技術研究方向。工作從事軟件產(chǎn)品設計開發(fā)多年，現(xiàn)任某互聯(lián)網(wǎng)公司產(chǎn)品總監(jiān)，致力于面向大數(shù)據(jù)的IT系統(tǒng)監(jiān)控軟件以及應用性能管理（APM）平臺的規(guī)劃、設計與傳播。熱愛互聯(lián)網(wǎng)，專注產(chǎn)品設計，喜歡云計算，關注大數(shù)據(jù)，對一切新鮮事物都抱有好奇心 孫沁(Kiki),美國留學五年，現(xiàn)Emory University生物統(tǒng)計碩士在讀。對Clinical trail，CancerPrevention, HIV等Puclic Health的領域很感興趣，畢業(yè)后希望在Pharmaceutical, BiotechnologyHospital and Healthcare Industries做數(shù)據(jù)分析，也想嘗試醫(yī)療健康方向的咨詢工作(Life science consulting firm)。希望結交對醫(yī)療數(shù)據(jù)有興趣的朋友，也希望大家?guī)兔ν扑]此方向的實習和工作機會給我。 大數(shù)據(jù)文摘精彩文章： 回復安全 關于泄密、黑客、攻防的新鮮案例 回復算法 既漲知識又有趣的人和事 回復谷歌 看其在大數(shù)據(jù)領域的舉措 回復院士 看眾多院士如何講大數(shù)據(jù) 回復色情 這個,你懂的,可是你真的懂嗎？ 回復隱私 看看在大數(shù)據(jù)時代還有多少隱私 回復醫(yī)療 查看醫(yī)療領域文章6篇 回復征信 大數(shù)據(jù)征信專題四篇 回復大國 "大數(shù)據(jù)國家檔案"之美國等12國 回復體育 大數(shù)據(jù)在網(wǎng)球、NBA等應用案例 回復平安 中國平安相關大數(shù)據(jù)案例、新聞 回復志愿者 了解大數(shù)據(jù)文摘及如何加入 |
|
|
