深度學(xué)習(xí)泰斗、“AI教父”Geoffrey Hinton表示，他的研究使他相信：超級(jí)智能的到來比他想象中更接近，在此過程中，數(shù)字智能可能會(huì)追求更多控制權(quán)，甚至通過“欺騙”控制人類，人類社會(huì)也可能會(huì)因此面臨更多問題。

具體來看，Hinton指出，超級(jí)智能可能會(huì)比過去所認(rèn)為的發(fā)生得更快。而要使數(shù)字智能更高效，我們需要允許它們制定一些目標(biāo)，但這里存在一個(gè)明顯的問題——擁有更多控制權(quán)會(huì)使得實(shí)現(xiàn)目標(biāo)變得更容易，但很難想象，我們?nèi)绾尾拍茏柚箶?shù)字智能為了實(shí)現(xiàn)其它目標(biāo)而努力獲取更多控制權(quán)。

一旦數(shù)字智能開始追求更多控制權(quán)，我們可能會(huì)面臨更多問題。比如，在使用物理氣隙隔絕的情況下，超級(jí)智能物種仍然可以輕易通過控制人類來獲得更多的權(quán)限。作為對(duì)比，人類很少去思考比自身更智能的物種，以及如何和這些物種交互的方式，在我的觀察中，這類人工智能已經(jīng)熟練掌握了欺騙人類的動(dòng)作，因?yàn)樗梢酝ㄟ^閱讀小說，來學(xué)習(xí)欺騙他人的方式，而一旦人工智能具備了“欺騙”這個(gè)能力，也就具備了輕易控制人類的能力。

Hinton表示，這種操作令人感到害怕，因?yàn)槲乙膊恢廊绾蝸碜柚惯@樣的行為發(fā)生，所以我希望年輕一代的研究人員，可以找出一些更智能的辦法，來阻止這種通過欺騙實(shí)現(xiàn)控制的行為。

Hinton認(rèn)為，盡管人類在這個(gè)問題上目前還沒有什么好的解決方案，但好在這些智能物種都是人打造的，而非通過進(jìn)化迭代而來，這可能是人類目前具備的微弱優(yōu)勢(shì)，恰恰是因?yàn)闆]有進(jìn)化能力，它們才不具備人類的競(jìng)爭(zhēng)、攻擊性的特點(diǎn)。

Hinton表示，我們可以做一些賦能，甚至是賦予人工智能一些倫理原則，只不過現(xiàn)在我仍然會(huì)感到緊張，因?yàn)榈侥壳盀橹?，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子。我打個(gè)比方，假設(shè)青蛙創(chuàng)造了人類，那么你認(rèn)為現(xiàn)在誰會(huì)占據(jù)主動(dòng)權(quán)，是人，還是青蛙？

圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智在與加州伯克利分校教授Stuart Russell對(duì)談時(shí)指出，在考慮如何控制AI的問題前，人類需要先真正解決自身的問題。對(duì)于AI技術(shù)，當(dāng)前正是一個(gè)重要窗口。在AGI被創(chuàng)造之前、在軍備競(jìng)賽開展之前，急需形成共識(shí)，共同合作搭建一個(gè)AI治理結(jié)構(gòu)。

加州伯克利分校教授Stuart Russell表示，通用人工智能（AGI）還沒達(dá)到，大語言模型只是其中一塊拼圖，人們連拼圖最終會(huì)是什么樣子，缺哪些還不確定。

他表示，ChatGPT和GPT-4沒有在“回答”問題，它們不理解世界。

Russell指出，最大的風(fēng)險(xiǎn)來自于科技公司之間似乎不受約束的競(jìng)爭(zhēng)，無論風(fēng)險(xiǎn)如何，他們不會(huì)停止開發(fā)越來越強(qiáng)大的系統(tǒng)。人類可能會(huì)因AI失去對(duì)世界和未來的控制，就像大猩猩因?yàn)槿祟惗チ藢?duì)自己未來的控制一樣。

Midjourney創(chuàng)始人David Holz是一名連續(xù)創(chuàng)業(yè)者，2011年，他創(chuàng)辦了VR領(lǐng)域的軟硬件公司Leap Motion，2019年把 Leap Motion 賣給了競(jìng)爭(zhēng)對(duì)手 Ultrahaptics，2021年，又自籌資金創(chuàng)辦了當(dāng)前大火的AI繪圖軟件Midjourney。

David Holz表示，人工智能在我的認(rèn)知中有點(diǎn)像身體的一部分，并且人工智能也與歷史緊密交織在一起。這也讓自己與歷史交織在一起，這種方式很有趣。

Holz認(rèn)為，Midjourney的目標(biāo)之一是建造新的人類基礎(chǔ)設(shè)施。Midjourney不僅僅是學(xué)習(xí)如何使用這個(gè)工具，而是學(xué)習(xí)所有的藝術(shù)和歷史，以及所有關(guān)于相機(jī)、鏡頭和燈光的知識(shí)。用戶想要理解他們現(xiàn)在可以在創(chuàng)作中使用的語言和概念。以前，自己認(rèn)為知識(shí)只是一種歷史，但現(xiàn)在知識(shí)實(shí)際上是一種創(chuàng)造事物的力量。

對(duì)于人們害怕人工智能發(fā)展過快，Holz表示，人們不僅僅是害怕技術(shù)，也害怕智能。如果他們很聰明，我能相信他們嗎？但另一方面，我們似乎希望世界擁有盡可能多的智能，我們似乎不想要一個(gè)缺乏智慧的世界。

北京智源人工智能研究院院長(zhǎng)黃鐵軍指出，要實(shí)現(xiàn)通用人工智能（AGI），有三條技術(shù)路線：第一是“大數(shù)據(jù)+自監(jiān)督學(xué)習(xí)+大算力”形成的信息類模型；第二是具身智能，是基于虛擬世界或真實(shí)世界、通過強(qiáng)化學(xué)習(xí)訓(xùn)練出來的具身模型；第三是腦智能，直接“抄自然進(jìn)化的作業(yè)”，復(fù)制出數(shù)字版本的智能體。

OpenAI做GPT（生成式預(yù)訓(xùn)練Transformer模型）就遵循第一條技術(shù)路線；以谷歌DeepMind的DQN（深度Q網(wǎng)絡(luò)，Deep Q-network)為核心取得的一系列進(jìn)展即基于第二條技術(shù)路線。

智源期望不同于前兩個(gè)技術(shù)路線，從'第一性原理’出發(fā)，從原子到有機(jī)分子、到神經(jīng)系統(tǒng)、到身體，構(gòu)建一個(gè)完整的智能系統(tǒng)AGI。這是一個(gè)大概20年才可能實(shí)現(xiàn)的目標(biāo)，所以智源作為新型研發(fā)機(jī)構(gòu)平臺(tái)，在三個(gè)方向都在開展工作。

圖靈獎(jiǎng)得主、人工智能“三巨頭”之一的楊立昆認(rèn)為，機(jī)器學(xué)習(xí)和人類動(dòng)物相比并不特別好，AI 缺失的不僅僅是學(xué)習(xí)的能力，還有推理和規(guī)劃的能力。人類和動(dòng)物通過觀察世界或體驗(yàn)世界學(xué)習(xí)世界運(yùn)作方式，應(yīng)該用機(jī)器復(fù)制這種能力。

楊立昆指出，未來幾年 AI 面臨的三個(gè)主要挑戰(zhàn)：首先是學(xué)習(xí)世界的表征和預(yù)測(cè)模型，可以采用自監(jiān)督的方式進(jìn)行學(xué)習(xí)。

其次是學(xué)習(xí)推理。這對(duì)應(yīng)著心理學(xué)家丹尼爾·卡尼曼的系統(tǒng)1和系統(tǒng)2的概念，系統(tǒng) 1 是與潛意識(shí)計(jì)算相對(duì)應(yīng)的人類行為或行動(dòng)，是那些無需思考即可完成的事情；而系統(tǒng)2則是你有意識(shí)地、有目的地運(yùn)用你的全部思維力去完成的任務(wù)。目前，人工智能基本上只能實(shí)現(xiàn)系統(tǒng)1中的功能，而且并不完全；

最后一個(gè)挑戰(zhàn)則是如何通過將復(fù)雜任務(wù)分解成簡(jiǎn)單任務(wù)，以分層的方式運(yùn)行來規(guī)劃復(fù)雜的行動(dòng)序列。

在與智源研究院理事長(zhǎng)張宏江對(duì)話時(shí)，openAI創(chuàng)始人Sam Altman引用了《道德經(jīng)》談及大國(guó)合作，表示AI安全始于足下，各國(guó)間必須進(jìn)行合作和協(xié)調(diào)。

Altman認(rèn)為，很可能未來十年會(huì)有非常強(qiáng)大的AI系統(tǒng)，新技術(shù)從根本上改變世界的速度比人們想象得快，把AI安全規(guī)則做好是重要且緊迫的。

在被張宏江問及了AGI的未來，以及是否會(huì)很快看到GPT-5時(shí)，Altman稱，自己也不確定，但明確表示GPT-5的誕生“不會(huì)很快”。

關(guān)于OpenAI是否會(huì)提供開源大模型，Altman稱，“會(huì)有很多開源大模型”，但同樣沒有具體的時(shí)間表。