新大模型能超GPT-4，Bard全面升級(jí)，谷歌反擊ChatGPT

天承辦公室 2023-05-11 發(fā)布于江蘇

展開全文

機(jī)器之心報(bào)道

機(jī)器之心編輯部

連今年的安卓 14 上都有生成式 AI，還不止一種。

一年一度的谷歌 I/O 總是吸引著全球開發(fā)者的眼球，今年 AI 技術(shù)有重大突破，大家的關(guān)注度更高了。

當(dāng)?shù)貢r(shí)間 5 月 10 日上午，加州山景城的海岸圓形劇場(chǎng)座無虛席，今年的大會(huì)正式開幕。

「AI 正在度過忙碌的一年，而谷歌作為人工智能優(yōu)先公司的旅程已經(jīng)七年了，我們正處于一個(gè)轉(zhuǎn)折點(diǎn)，」谷歌首席執(zhí)行官桑達(dá)爾?皮查伊（Sundar Pichai）說道?！竿ㄟ^生成式 AI 技術(shù)，我們正在邁出下一步?！?/span>

在 ChatGPT 推出之后，人們都很關(guān)心谷歌的「反擊策略」。在今天凌晨長達(dá)兩個(gè)小時(shí)的演講中，谷歌從算法、軟件講到硬件，又通篇都在講人工智能，最新的大模型技術(shù)，已經(jīng)應(yīng)用在了谷歌產(chǎn)品體系的方方面面。

PaLM 二代模型

支持多語言、更強(qiáng)的數(shù)學(xué)、代碼能力

首先，谷歌給出了自己對(duì)標(biāo) GPT-4 的大模型 PaLM 2。

要說這一波 AI 技術(shù)突破的源頭，或許可以追溯到 2017 年谷歌提出的 transformer 架構(gòu)，它已成為絕大多數(shù)現(xiàn)代大語言模型的基石。

在過去的幾年里，谷歌除了在大模型上不斷進(jìn)步之外，也采用了許多創(chuàng)造性的新技術(shù)來構(gòu)建功能更強(qiáng)大、用途更廣的模型。這些技術(shù)是新一代語言模型 PaLM 2 的核心。PaLM 基于谷歌 Pathways 架構(gòu)，其第一個(gè)版本的模型于 2022 年 4 月發(fā)布。

谷歌 I/O 大會(huì)上，皮查伊宣布推出 PaLM 2 預(yù)覽版本，改進(jìn)了數(shù)學(xué)、代碼、推理、多語言翻譯和自然語言生成能力，利用谷歌最新的 TPU 算力基礎(chǔ)設(shè)施提升了訓(xùn)練速度。由于它的構(gòu)建方式是將計(jì)算、優(yōu)化擴(kuò)展、改進(jìn)的數(shù)據(jù)集混合以及模型架構(gòu)改進(jìn)結(jié)合在一起，因此服務(wù)效率更高，同時(shí)整體表現(xiàn)更好。

會(huì)上，谷歌并沒有給出有關(guān) PaLM 2 的具體技術(shù)細(xì)節(jié)，只說明了它是構(gòu)建在谷歌最新 JAX 和 TPU v4 之上。PaLM 2 模型提供了不同尺寸規(guī)模的四個(gè)版本，從小到大依次為 Gecko、Otter、Bison 和 Unicorn，更易于針對(duì)各種用例進(jìn)行部署。其中輕量級(jí)的 Gecko 模型可以在移動(dòng)設(shè)備上運(yùn)行，速度非?？欤宦?lián)網(wǎng)也能在設(shè)備上運(yùn)行出色的交互式應(yīng)用程序。

皮查伊表示，PaLM 2 模型在常識(shí)推理、數(shù)學(xué)和邏輯領(lǐng)域表現(xiàn)更好。為此，谷歌在大量包含數(shù)學(xué)表達(dá)式的科學(xué)論文和網(wǎng)頁上進(jìn)行了訓(xùn)練，可以輕松解決數(shù)學(xué)難題、推理文本甚至可以輸出圖表。

從基準(zhǔn)測(cè)試上可以看到，對(duì)于具有思維鏈 prompt 或自洽性的 MATH、GSM8K 和 MGSM 基準(zhǔn)評(píng)估，PaLM 2 的部分結(jié)果超越了 GPT-4。

PaLM 2 是在具有 100 + 語言的語料庫上進(jìn)行訓(xùn)練的，因此它更擅長多語言任務(wù)，能夠理解、生成和翻譯比以往模型更細(xì)致多樣化的文本（包括習(xí)語、詩歌和謎語等）。PaLM 2 通過了「精通」（mastery）級(jí)別的高級(jí)語言能力考試。

與此同時(shí)，PaLM 2 改進(jìn)了對(duì)代碼編寫和調(diào)試的支持，在 20 種編程語言上進(jìn)行了訓(xùn)練，包括 Python 和 JavaScript 等流行語言以及 Prolog、Verilog 和 Fortran 等其他更專業(yè)的語言。PaLM 2 構(gòu)成了 Codey 的基礎(chǔ)，它是谷歌用于編碼和調(diào)試的專用模型，作為代碼補(bǔ)全和生成服務(wù)的一部分推出。

皮查伊現(xiàn)場(chǎng)演示了 PaLM 2 的代碼調(diào)試功能，輸入指令「你能修復(fù)這段代碼的一個(gè) bug，并添加一行一行的韓文注釋嗎？」，結(jié)果如下動(dòng)圖所示。

谷歌內(nèi)部已經(jīng)有超過 70 個(gè)產(chǎn)品團(tuán)隊(duì)正在使用 PaLM 2 構(gòu)建產(chǎn)品，包括分別針對(duì)安全知識(shí)和醫(yī)療知識(shí)微調(diào)而成的 Sec-PaLM 和 Med-PaLM 2。

其中 Sec-PaLM 是專注于安全用例的版本，使用 AI 幫助分析和解釋具有潛在惡意腳本的行為，并檢測(cè)哪些腳本對(duì)個(gè)人或組織構(gòu)成威脅。Med-PaLM 2 可以檢索醫(yī)學(xué)知識(shí)、回答問題、生成有用的模板和解碼醫(yī)學(xué)術(shù)語，甚至還可以從圖像中合成患者信息，例如胸部 X 光檢查或乳房 X 光檢查。值得強(qiáng)調(diào)的是，Med-PaLM 2 是首個(gè)達(dá)到專家水平的大語言模型。

皮查伊在會(huì)上展示了 Med-PaLM 2 的醫(yī)療內(nèi)容生成效果。

目前，開發(fā)者可以通過谷歌的 PaLM API、Firebase 以及 Colab 訪問 PaLM 2。皮查伊還表示，PaLM 2 將繼續(xù)為谷歌最新的 Bard 提供支持。

在皮查伊演講的同時(shí)，谷歌放出了 PaLM 2 的論文，整整 91 頁。但令人失望的是，PaLM 2 論文遠(yuǎn)沒初代 PaLM 有誠意，和 GPT-4 一樣，更像是技術(shù)報(bào)告。

論文地址：https://ai.google/static/documents/palm2techreport.pdf

另外，在 Google Brain 和 DeepMind 合并之后，新的大模型也在研制過程當(dāng)中。皮查伊表示現(xiàn)在谷歌的研究重心正在轉(zhuǎn)向 Gemini，這是一種多模態(tài)和高效的機(jī)器學(xué)習(xí)工具。

谷歌并未透露 Gemini 的更多信息，我們只知道該模型是在今年才開始研發(fā)的，將具有像 GPT-4 一樣的萬億參數(shù)。目前 Gemini 仍在訓(xùn)練中，但已經(jīng)展示出了以往模型中從未見過的多模態(tài)能力。一旦經(jīng)過微調(diào)和嚴(yán)格的安全性測(cè)試，谷歌同樣將提供不同尺寸和功能的 Gemini 版本，以確保部署在不同的產(chǎn)品、應(yīng)用和設(shè)備上。

多模態(tài)版 Bard，能用 Adobe Firefly 畫圖

皮查伊表示，現(xiàn)在的谷歌 Bard 已經(jīng)完全運(yùn)行在了新一代模型 PaLM 2 上。在 I/O 大會(huì)上，ChatGPT 和新必應(yīng)的競(jìng)爭(zhēng)對(duì)手 Bard 經(jīng)歷了大幅更新，包括圖像功能、編碼功能和應(yīng)用程序集成。

「PaLM 2 模型在邏輯和推理方面比以往的模型更加強(qiáng)大，這要?dú)w功于對(duì)邏輯和推理的廣泛訓(xùn)練，」皮查伊表示?！杆€接受了跨越 100 多種語言的多語言文本訓(xùn)練?！?/span>

Bard 將在回復(fù)和你給更復(fù)雜提示后給出更加直觀的內(nèi)容。你可以問它諸如「新奧爾良有哪些必看景點(diǎn)？」之類的問題，除了文本之外，你可以獲得更有意義的回復(fù)，以及豐富的視覺內(nèi)容。

和 GPT-4 一樣，你還可以在自己的要求中附加圖像和文本。比如像這樣，為這張照片想一個(gè)有趣的標(biāo)題：

Bard 作為生產(chǎn)力工具和搜索引擎之間的工具，最新版的改進(jìn)有關(guān)易用性。首先是加入了引用，現(xiàn)在 AI 生成的回答將通過展示特定代碼塊的來源（也是鏈接）來確保代碼引用更加準(zhǔn)確，這也適用于從網(wǎng)絡(luò)上引用敘述性內(nèi)容。

其次是導(dǎo)出按鈕。如果 AI 生成的內(nèi)容接近于實(shí)用化，我們肯定會(huì)希望能夠更快捷地使用這些結(jié)果。現(xiàn)在，人們能把內(nèi)容快速導(dǎo)出到 Colab 和 Replit 上，進(jìn)一步構(gòu)建和迭代自己的想法。當(dāng)然文字也是可以的，如果你讓 Bard 寫郵件，那么它也可以一鍵直接用 Gmail 發(fā)送，或新建一個(gè) Docs 文件。

未來，谷歌還計(jì)劃集成的應(yīng)用還包括 Sheets、Slides、Calendar、Keep、Tasks、Maps、Photos、Messages、Flights、YouTube、YT Music、Google Images、Imagen、OpenTable、Replit，以及 Adobe 的 Firefly。

谷歌表示，Bard 很快就會(huì)支持各種第三方擴(kuò)展，例如 AI 可以自動(dòng)根據(jù)你輸入的文本生成圖像，使用的還是 Adobe 那個(gè)神奇的 Firefly：

人們反映最多的問題是：Bard 一直僅限于英國和美國使用。谷歌這次直接宣布 Bard 覆蓋全球 180 個(gè)國家和地區(qū)，并取消了候選名單，現(xiàn)在立即人人可用。在語言方面，谷歌這次增加了日語和韓語，預(yù)計(jì)會(huì)在今年 7 月讓 Bard 支持全球「使用量排名前 40」的語言。

下一代安卓，AI 可以幫你回短信

I/O 大會(huì)上，谷歌還展示了下一代移動(dòng)操作系統(tǒng) Android 14 的新能力。

Magic Compose 將于今年夏天在谷歌的默認(rèn)短信應(yīng)用 Message 中推出測(cè)試版，它是一種基于 AI 生成模型的工具，讓你在回短信的時(shí)候根據(jù)聊天內(nèi)容獲得大量提示。它會(huì)學(xué)習(xí)你的說話方式，你也可以讓自己的回復(fù)內(nèi)容看起來有不同的語氣，或者用莎士比亞的風(fēng)格來寫。

谷歌還使用生成式 AI 來幫你制作獨(dú)一無二的手機(jī)壁紙，和 AI 畫圖一樣使用語言提示完成：

你可以 AI 建議的提示來描述你的最終創(chuàng)意愿景，這要?dú)w功于谷歌的文本到圖像擴(kuò)散模型。在該功能上，谷歌使用了公共領(lǐng)域的訓(xùn)練數(shù)據(jù)，應(yīng)該可以保證系統(tǒng)不會(huì)創(chuàng)建受版權(quán)保護(hù)的圖像。

另外，谷歌也發(fā)布了 Pixel 7a、Pixel Tablet，還有自己的首款折疊屏手機(jī) Pixel Fold，售價(jià) 1799 美元，新的硬件將于夏天正式開賣。

隨著新模型 PaLM 2 的引入，全系列工具的 AI 化升級(jí)，谷歌在大語言模型的應(yīng)用上可謂來到了和微軟同一個(gè)身位，甚至還再次領(lǐng)先了。在 I/O 大會(huì)進(jìn)行的同時(shí)，谷歌的股價(jià)也大漲了 5%。但現(xiàn)在真的可以說 Bard 能和 ChatGPT 媲美了嗎？等我們用上了新版本，或許就有答案了。

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：天承辦公室 > 《022機(jī)器之心》

舉報(bào)/認(rèn)領(lǐng)