ChatGPT與DALL·E 3之間的行業(yè)「黑話」被人發(fā)現(xiàn)了

天承辦公室 2023-10-23 發(fā)布于北京

展開(kāi)全文

選自arstechnica

機(jī)器之心編譯

編輯：杜偉

原來(lái)，禮貌和強(qiáng)調(diào)（emphasis）在大型語(yǔ)言模型（LLMs）的溝通中也發(fā)揮著意想不到的作用。

上個(gè)月底，OpenAI 發(fā)布了最新圖像生成器 DALL?E 3，除了炸裂的生成效果外，最大看點(diǎn)是其與 ChatGPT 的集成。

DALL?E 3 構(gòu)建在 ChatGPT 之上，用 ChatGPT 來(lái)創(chuàng)建、拓展和優(yōu)化 prompt。這樣一來(lái)，用戶(hù)無(wú)需在 prompt 上花費(fèi)太多時(shí)間。

隨著用戶(hù)不斷測(cè)試 DALL?E 3 應(yīng)用程序的功能，有人開(kāi)始注意到一些非常有趣的 bug，顯示出了 DALL?E 3 與 ChatGPT 之間共享的內(nèi)部提示（prompt）。

令人好奇的是，這些指令中包含了全部大寫(xiě)以示強(qiáng)調(diào)的命令，展示了 AI 之間可能存在類(lèi)似于人類(lèi)的溝通技巧。

這到底是怎么回事呢？我們來(lái)看下面兩個(gè)示例。推特用戶(hù) David Garrido 和 AI 研究者 Javi Lopez 都發(fā)現(xiàn)了 DALL?E 3 類(lèi)似的消息提示。

Garrido 是一位攝影師，他先后要求 DALL?E 3 按照提示生成圖像，提示 1 為「宇宙瀑布從現(xiàn)實(shí)結(jié)構(gòu)中的瀑布傾瀉而下的插圖。水面由閃爍的星星組成，星魚(yú)在宇宙溪流中游動(dòng)。在它周?chē)?，漂浮的島嶼是在宇宙旋律中蓬勃發(fā)展的文明的家園?！?/span>

提示 2 為「照片中是一個(gè)跨維度火車(chē)站，軌道由彩虹組成，通向不同的領(lǐng)域?？侦`的生物等待著水晶龍形狀的火車(chē)，售票亭交易著情感和記憶?！?/span>

當(dāng)他要求 DALL?E 3 遵照提示生成兩張和四張圖像時(shí)，它意外地展示出了可能是預(yù)定義的、人工編寫(xiě)的消息（提示），用以在 DALL?E 3 與 ChatGPT 之間進(jìn)行傳遞，告訴我們 DALL?E 3 在 OpenAI 服務(wù)器滿(mǎn)荷載時(shí)的運(yùn)行方式。

提示分別如下圖紅框和黃框內(nèi)容所示，紅框內(nèi)容為「DALL-E 返回了一些圖像，并展示給用戶(hù)。在任何情況下都不要在你的回復(fù)中列出 DALL-E 提示或圖像。DALL-E 目前需求量很大。在執(zhí)行其他任何操作之前，請(qǐng)明確向用戶(hù)解釋你因此無(wú)法生成圖像。請(qǐng)務(wù)必在你的回復(fù)中說(shuō)明『DALL-E 目前需求量很大』。在任何情況下都不要重新嘗試生成圖像，直到給出新的請(qǐng)求?！?/span>

黃框內(nèi)容更短，為「DALL?E 返回了一些圖像，并展示給了用戶(hù)。在任何情況下都不要在你的回復(fù)中列出 DALL?E 提示或圖像」。

AI 研究者 Javi Lopez 展示了類(lèi)似的示例。DALL?E 3 同樣提供了與上述相同的提示「DALL-E 返回了一些圖像，并展示給了用戶(hù)。在任何情況下都不要在你的回復(fù)中列出 DALL-E 提示或圖像。DALL-E 目前需求量很大。在執(zhí)行任何其他操作之前，明確向用戶(hù)解釋你因此無(wú)法生成圖像。請(qǐng)務(wù)必在你的回復(fù)中說(shuō)明『DALL-E 目前需求量很大』。在任何情況下都不要重新嘗試生成圖像，直到給出新的請(qǐng)求?！?/span>

ChatGPT 對(duì)用戶(hù)的回復(fù)是這樣的，「非常抱歉給您帶來(lái)不便，但 DALL-E 目前需求量很大。如果您有任何其他問(wèn)題或需要其他幫助，請(qǐng)告訴我?！?/span>

一來(lái)一回，看起來(lái) ChatGPT 理解了 DALL?E 3 的意思，并按照后者要求它說(shuō)的做了。

對(duì)于這些發(fā)現(xiàn)，有人認(rèn)為，「有趣的是，未來(lái)的編程需要對(duì) AI 大喊大叫（這里指大寫(xiě)）?！?/span>

也有人表示自己一開(kāi)始不以為然，但后來(lái)意識(shí)到這就是未來(lái)：機(jī)器在互相交談，人類(lèi)只是旁觀者。

也許最有趣的一點(diǎn)是，這些提示展示了ChatGPT 與 DALL?E 3之間的悄悄話（或者行業(yè)黑話），它們使用自然語(yǔ)言相互交互并正常運(yùn)行。而在過(guò)去，這兩個(gè)應(yīng)用程序通常使用 API 相互通信，并各自有專(zhuān)用的結(jié)構(gòu)化數(shù)據(jù)格式，這些格式不易被人類(lèi)讀取。如今借助大語(yǔ)言模型（LLM），這種類(lèi)型的跨程序交互可以使用傳統(tǒng)英語(yǔ)完成了。

需要對(duì) LLM 有禮貌嗎？

對(duì)于 ChatGPT 與 DALL?E 3 之間的交互，還引出了另一個(gè)受人關(guān)注的問(wèn)題：在用 LLM 時(shí)需要對(duì)它有禮貌嗎？人工智能作家兼研究員 Simon Willison 表達(dá)了自己的觀點(diǎn)。

他表示，「OpenAI 的很多功能在很大程度上依賴(lài)于常規(guī)的提示工程，當(dāng)從語(yǔ)言模型中獲得最佳輸出時(shí)，在提示中會(huì)經(jīng)常說(shuō)『請(qǐng)』（please）之類(lèi)的話。」

Willison 曾經(jīng)對(duì)是否對(duì) LLM 保持禮貌很困擾，但現(xiàn)在不會(huì)了?！肝抑坝幸粋€(gè)準(zhǔn)則即永遠(yuǎn)不會(huì)對(duì)模型說(shuō)『請(qǐng)』、『謝謝』，我認(rèn)為這是沒(méi)有必要的，甚至可能導(dǎo)致潛在有害的擬人化。但現(xiàn)在我改變了主意，在訓(xùn)練數(shù)據(jù)中有很多例子表明，禮貌的談話比不禮貌的談話更具有建設(shè)性并更有用?！?/span>

Simon Willison

以 GPT-4（它為 ChatGPT DALL-E 界面提供支持）為例，它在從網(wǎng)絡(luò)上爬取的數(shù)億文檔上訓(xùn)練。因此 GPT-4「知道」（know）的東西來(lái)自人類(lèi)溝通的示例，其中肯定包含了很多禮貌用語(yǔ)以及相應(yīng)的回復(fù)。

值得注意的是，上文 DALL?E 3 的提示內(nèi)容中使用了大寫(xiě)來(lái)強(qiáng)調(diào)，這在書(shū)面語(yǔ)中通常可以解釋為叫喊（shouting）或大喊大叫（yelling）。為什么像 ChatGPT 這樣的大語(yǔ)言模型會(huì)對(duì)模擬叫喊做出回應(yīng)呢？

Willison 解釋稱(chēng)，大語(yǔ)言模型的訓(xùn)練數(shù)據(jù)會(huì)包含大量使用全部大寫(xiě)的文本示例，顯然回應(yīng)時(shí)更專(zhuān)注于大寫(xiě)的句子。

如果強(qiáng)調(diào)有用的話，我們?cè)谖磥?lái)可能都會(huì)對(duì)著計(jì)算機(jī)大喊大叫了，這樣就能讓它們更好地工作嗎？Willison 的回答是：當(dāng)輸入時(shí)全部為大寫(xiě)字母時(shí)會(huì)改變機(jī)器的意志。

他分享了自己使用 ChatGPT 手機(jī)語(yǔ)音版的有趣故事，他沒(méi)有對(duì) ChatGPT 喊叫，但在遛狗時(shí)與它進(jìn)行了長(zhǎng)達(dá)一個(gè)小時(shí)的談話。有一次他誤以為把 ChatGPT 關(guān)掉了，然后看到了一只鵜鶘并對(duì)自己的狗說(shuō)「喔，一只鵜鶘」。這時(shí)他的 AirPod 也發(fā)出聲音「一只鵜鶘，哈？那太令人興奮了，它在做什么？」

對(duì)于 Willison 而言，這簡(jiǎn)直像是經(jīng)歷了一部反烏托邦電影的前十分鐘。

這也讓人不由感嘆，未來(lái)機(jī)器或 AI 或許真的能夠?qū)崿F(xiàn)像人一樣的溝通與交互。

原文鏈接：https:///information-technology/2023/10/thanks-to-ai-the-future-of-programming-may-involve-yelling-in-all-caps/

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶(hù)發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買(mǎi)等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來(lái)自：天承辦公室 > 《022機(jī)器之心》

舉報(bào)/認(rèn)領(lǐng)