將 ScienceAI 設(shè)為星標(biāo)

第一時間掌握

新鮮的 AI for Science 資訊

大多數(shù)人都熟悉大量人工智能 (AI) 應(yīng)用程序，這些應(yīng)用程序似乎旨在提高我們的效率和創(chuàng)造力。我們有一些應(yīng)用程序可以根據(jù)文本提示生成藝術(shù)作品，還有備受爭議的 ChatGPT，它引發(fā)了關(guān)于原創(chuàng)性、錯誤信息和剽竊的嚴(yán)重問題。

盡管存在這些擔(dān)憂，人工智能正變得越來越普遍和具有侵入性。這是將不可逆轉(zhuǎn)地改變我們生活的最新技術(shù)。

互聯(lián)網(wǎng)和智能手機(jī)是其他例子。但與這些技術(shù)不同的是，許多哲學(xué)家和科學(xué)家認(rèn)為人工智能有朝一日可以達(dá)到（甚至超越）人類式的「思維」。這種可能性，加上我們對人工智能的日益依賴，是未來主義概念「技術(shù)奇點」的根源。

這個詞由來已久，幾十年前由美國科幻作家 Vernor Vinge 推廣開來。

今天，「奇點」指的是一個假設(shè)的時間點，在這個時間點，通用人工智能（AGI）——即具有人類水平能力的人工智能——發(fā)展到如此先進(jìn)，將不可逆轉(zhuǎn)地改變?nèi)祟愇拿鳌?/span>

這將標(biāo)志著我們與機(jī)器密不可分的曙光。從那一刻起，我們將無法在沒有它們的情況下生活而不停止作為人類的功能。但如果奇點來了，我們會注意到它嗎？

大腦植入物作為第一階段

要理解為什么這不是童話故事，我們只需看看腦機(jī)接口 (BCI) 的最新發(fā)展。在許多未來學(xué)家眼中，腦機(jī)接口是奇點的自然開端，因為它們以迄今為止其他技術(shù)無法做到的方式融合了思維和機(jī)器。

Elon Musk 的公司 Neuralink 正在尋求美國食品和藥物管理局的許可，開始對其 BCI 技術(shù)進(jìn)行人體試驗。這將涉及將神經(jīng)連接器植入志愿者的大腦，這樣他們就可以通過思考來傳達(dá)指令。

Neuralink 希望幫助截癱患者行走，幫助盲人重見光明。但除了這些目標(biāo)之外，還有其他雄心壯志。

Musk長期以來一直表示，他相信大腦植入物將允許心靈感應(yīng)交流，并導(dǎo)致人類和機(jī)器的共同進(jìn)化。他認(rèn)為，除非我們使用這種技術(shù)來增強(qiáng)我們的智力，否則我們就有被超級智能人工智能消滅的風(fēng)險。

可以理解的是，并不是每個人都喜歡尋求技術(shù)專長。但他并不是唯一一個預(yù)測人工智能能力將大幅增長的人。調(diào)查顯示，人工智能研究人員絕大多數(shù)同意人工智能將在本世紀(jì)內(nèi)實現(xiàn)人類水平的「思考」。他們不同意的是這是否意味著意識，或者這是否必然意味著人工智能一旦達(dá)到這個水平就會對我們造成傷害。

另一家 BCI 技術(shù)公司 Synchron 創(chuàng)造了一種微創(chuàng)植入物，允許患有肌萎縮側(cè)索硬化癥 (ALS) 的患者使用他的意念發(fā)送電子郵件和瀏覽互聯(lián)網(wǎng)。

Synchron 首席執(zhí)行官湯姆·奧克斯利 (Tom Oxley) 認(rèn)為，大腦植入物最終可能超越假肢康復(fù)，徹底改變?nèi)祟惖慕涣鞣绞?。他?TED 的聽眾說，有一天他們可能會允許用戶「拋出」他們的情緒，這樣其他人就能感受到他們的感受，「然后大腦的全部潛能就會被釋放」。

BCI 的早期成就可以說被認(rèn)為是向假定的奇點翻滾的第一階段，在這個階段，人和機(jī)器合而為一。這并不意味著機(jī)器將變得「有知覺」或控制我們。但是整合本身，以及我們隨之而來的對它的依賴，可能會無可挽回地改變我們。

AGI 是敵是友？

根據(jù)未來學(xué)家和前谷歌創(chuàng)新工程師 Ray Kurzweil 的說法，擁有人工智能增強(qiáng)思維的人類可能會被扔到進(jìn)化的高速公路上——不受速度限制地向前疾馳。

在他 2012 年出版的《How to Create a Mind》一書中，Kurzweil 對大腦新皮層——被認(rèn)為負(fù)責(zé)感官知覺、情感和認(rèn)知等「高級功能」的大腦部分——進(jìn)行了理論化分析——是一種模式識別器的分層系統(tǒng)，如果在機(jī)器中進(jìn)行模擬，可能會產(chǎn)生人工超級智能。

他預(yù)測到 2045 年奇點將與我們同在，并認(rèn)為它可能會帶來一個擁有超級智能人類的世界，甚至可能是尼采式的「übermensch」：超越所有世俗限制以發(fā)揮其全部潛力的人。

但并不是所有人都認(rèn)為 AGI 是一件好事。已故的偉大理論物理學(xué)家 Stephen Hawking 警告說，超級智能人工智能可能會導(dǎo)致世界末日。2014 年，Hawking 告訴 BBC，「全人工智能的發(fā)展可能預(yù)示著人類的終結(jié)。[...] 它將自行起飛并以不斷加快的速度重新設(shè)計自己。受生物進(jìn)化緩慢限制的人類無法競爭，而且會被取代?！?/span>

然而，Stephen Hawking 是腦機(jī)接口的倡導(dǎo)者。

連接在一個蜂巢頭腦中

另一個與奇點相關(guān)的想法是啟用 AI 的「蜂巢思維」。Merriam-Webster 將蜂群思維定義為「群居昆蟲（如蜜蜂或螞蟻）復(fù)雜、協(xié)調(diào)的行為所表達(dá)的集體心理活動，被認(rèn)為可與控制個體有機(jī)體行為的單一思維相媲美?！?/span>

神經(jīng)科學(xué)家 Giulio Tononi 圍繞這種現(xiàn)象發(fā)展了一種理論，稱為綜合信息理論 (IIT)。它表明我們都在走向所有思想和所有數(shù)據(jù)的融合。

哲學(xué)家 Philip Goff 在他的書 Galileo's Error 中很好地解釋了 Tononi 概念的含義：

「IIT 預(yù)測，如果基于互聯(lián)網(wǎng)的連接性的增長導(dǎo)致社會中的綜合信息量超過人腦中的綜合信息量，那么不僅社會會變得有意識，而且人類的大腦也會被「吸收」到更高形式的意識中。大腦本身將不再具有意識，而只會成為具有超強(qiáng)意識的社會實體中的齒輪，包括其基于互聯(lián)網(wǎng)的連接?！?/span>

值得注意的是，幾乎沒有證據(jù)表明這樣的事情會實現(xiàn)。但該理論提出的重要想法不僅涉及技術(shù)的快速加速（更不用說量子計算如何推動這一點），而且還涉及意識本身的本質(zhì)。

假設(shè)地，如果蜂群思維出現(xiàn)，人們可以想象它將標(biāo)志著個性和依賴個性的制度（包括民主）的終結(jié)。

最后的邊界在我們的耳朵之間

最近 OpenAI（開發(fā) ChatGPT 的公司）發(fā)布了一篇博文，重申了其實現(xiàn) AGI 的承諾。其他人無疑會效仿。

我們的生活正在以我們通常無法辨別的方式被算法驅(qū)動，因此無法避免。技術(shù)奇點的許多特征有望顯著改善我們的生活，但令人擔(dān)憂的是，這些人工智能是私營企業(yè)的產(chǎn)品。

它們幾乎不受監(jiān)管，而且主要是沖動的「技術(shù)企業(yè)家」的心血來潮，他們的錢比我們大多數(shù)人加起來還多。無論我們認(rèn)為他們是瘋狂的、天真的還是空想家，我們都有權(quán)知道他們的計劃（并能夠反駁他們）。

如果以過去幾十年為例，在新技術(shù)方面，我們所有人都會受到影響。