Nature：聊天機(jī)器人在科研中應(yīng)用：ChatGPT能為你做什么？

Chatbots in science: What can ChatGPT do for you?

聊天機(jī)器人在科研中應(yīng)用: ChatGPT能為你做什么？

出版年份：2024年

來源：Nature

第一作者：美國科羅拉多大學(xué)Milton Pividori

ChatGPT于2022年11月推出時(shí)震驚了世界。這款人工智能（AI）聊天機(jī)器人由OpenAI創(chuàng)建，由大語言模型（LLM）提供支持，利用互聯(lián)網(wǎng)上發(fā)布的大量文本進(jìn)行訓(xùn)練。AI聊天機(jī)器人提供一個(gè)基于對話的界面，可回答復(fù)雜問題、撰寫復(fù)雜論文并生成源代碼，從而使自然語言處理領(lǐng)域的最新進(jìn)展得以廣泛應(yīng)用。這帶來了一項(xiàng)顯著問題：這款工具如何能提高科學(xué)水平？

本文探索了如何將AI聊天機(jī)器人融入日?？蒲腥蝿?wù)工作中（如文獻(xiàn)綜述、修改和撰寫學(xué)術(shù)論文和以及編程代碼），旨在評估如何安全地應(yīng)用使用該技術(shù)以生產(chǎn)生更優(yōu)質(zhì)的科研成果并提高生產(chǎn)力工作效率。本文強(qiáng)調(diào)了一些關(guān)鍵教訓(xùn)經(jīng)驗(yàn)，具體如下：

（1）設(shè)計(jì)合適的提問詞

人們普遍認(rèn)為，聊天機(jī)器人是“智能”的，其可理解用戶所提的任何問題。然而，事實(shí)并非如此。為了有效使用聊天機(jī)器人，有必要設(shè)計(jì)一個(gè)合適的提問詞。

優(yōu)秀的提問設(shè)計(jì)存在諸多細(xì)微差別，但基本原則相同，具體如下:

1）用戶應(yīng)明確說明希望模型做什么

實(shí)例：“Summarize…”（總結(jié)…）或“Explain…”（解釋…）

2）要求模型扮演一個(gè)角色或人物

實(shí)例：“You are a professional copy editor（你是專業(yè)的文字編輯）”

3）指定模型應(yīng)如何回答或確切的輸出格式

實(shí)例1：“Explain it to someone who has a basic understanding of epigenetics”（向?qū)Ρ碛^遺傳學(xué)有基本了解的人解釋）

實(shí)例2：“Export as an analysis-friendly JSON or CSV file”（導(dǎo)出為便于分析的JSON或CSV文件）

以下是用于修改手稿摘要的提問實(shí)例，以供參考：

實(shí)例：“You are a professional copy editor with ample experience handling scientific texts. Revise the following abstract from a manuscript so that it follows a context–content–conclusion scheme.

(1) The context portion communicates to the reader the gap that the paper will fill. The first sentence orients the reader by introducing the broader field. Then, the context is narrowed until it lands on the open question that the research answers. A successful context section distinguishes the research’s contributions from the current state of the art, communicating what is missing in the literature (that is, the specific gap) and why that matters (that is, the connection between the specific gap and the broader context).

(2) The content portion (for example, 'here, we ...’) first describes the new method or approach that was used to fill the gap, then presents an executive summary of results.

(3) The conclusion portion interprets the results to answer the question that was posed at the end of the context portion. There might be a second part to the conclusion portion that highlights how this conclusion moves the broader field forward (for example, 'broader significance’).

你是一名在處理科學(xué)文本方面經(jīng)驗(yàn)豐富的專業(yè)文字編輯。請修改以下手稿摘要，使其符合背景-內(nèi)容-結(jié)論框架。

1）背景部分向讀者傳達(dá)論文將填補(bǔ)的空白。第一句通過介紹更廣泛的領(lǐng)域來引導(dǎo)讀者。然后，背景縮小到本研究要回答的開放性問題上。一個(gè)優(yōu)秀的背景是將研究貢獻(xiàn)與當(dāng)前技術(shù)水平區(qū)分開，說明文獻(xiàn)中缺少什么（即具體差距）以及為什么這很重要（即具體差距與更廣泛背景之間的聯(lián)系）。

2）內(nèi)容部分（例如，“在這里，我們......”）首先介紹用于填補(bǔ)研究空白的新方法或新途徑，然后提供結(jié)果的概要。

3）結(jié)論部分解釋結(jié)果以回答背景部分末尾提出的問題。結(jié)論部分可能還有第二部分，強(qiáng)調(diào)該結(jié)論如何推動(dòng)更廣泛領(lǐng)域地發(fā)展（例如，“更廣泛的意義”）。 

（2）找到合適的任務(wù)

在考慮聊天機(jī)器人的潛在應(yīng)用時(shí)，應(yīng)先明確以下幾個(gè)方面：1）這項(xiàng)任務(wù)需多少創(chuàng)造力；2）若模型引導(dǎo)錯(cuò)誤會發(fā)生什么；3）任務(wù)哪些方面只有人才能做出貢獻(xiàn)；4）哪些方面更機(jī)械化--通常也更無聊？

以一項(xiàng)研究的文獻(xiàn)綜述階段為例，此過程的目標(biāo)是生成一份精煉的論文列表并總結(jié)其主要思想。確定研究問題需要?jiǎng)?chuàng)造性思維，故無法完全依靠聊天機(jī)器人完成。這一過程需要仔細(xì)閱讀論文，找出研究空白、提出假設(shè)，并開始思考如何通過實(shí)驗(yàn)解決問題。研究者可能希望盡可能多地了解每篇論文（包括圖、表和補(bǔ)充材料）。聊天機(jī)器人可能會遺漏關(guān)鍵信息，甚至可能會妨礙研究者建立創(chuàng)造性和邏輯性之間聯(lián)系。然而，這一過程的后期目標(biāo)將有所不同。研究者可能試圖快速“閱讀”（即總結(jié)）與自己工作不太相關(guān)的論文。在該情況下，使用聊天機(jī)器人風(fēng)險(xiǎn)較小。

此外，使用專業(yè)工具（如SciSpace）搜索論文、評估其相關(guān)性以及與文本“聊天”可取得一定進(jìn)展。然而，使用ChatGPT等一般工具則無法獲得相同效果。因此，無論選擇哪種工具，都要同時(shí)使用標(biāo)準(zhǔn)搜索引擎，以最大限度地增加相關(guān)論文數(shù)量。

（3）多寫作，少閱讀

使用聊天機(jī)器人寫作比使用其閱讀風(fēng)險(xiǎn)更小。舉例而言，讓LLM“閱讀”一篇論文時(shí)，用戶必須相信其可準(zhǔn)確提取出最重要的觀點(diǎn)，因?yàn)橛脩艨赡懿粫喿x該論文。然而，使用LLM寫作時(shí)，用戶可完全控制輸出結(jié)果，并在出現(xiàn)無意義或不準(zhǔn)確的文本時(shí)及時(shí)發(fā)現(xiàn)。

當(dāng)開始撰寫論文時(shí)，即便明確了想表達(dá)什么，但經(jīng)常需要聊天機(jī)器人來輔助撰寫論文。此時(shí)，可向聊天機(jī)器人提供本學(xué)科論文框架。另一種方法是，用戶可先在無幫助情況下寫作，然后使用聊天機(jī)器人修改文本（例如，將背景-內(nèi)容-結(jié)論框架應(yīng)用到于段落），查看聊天機(jī)器人的建議并采納好的建議。

在使用聊天機(jī)器人編寫源代碼時(shí)也可采用類似方法：向LLM請求代碼來解決問題或修復(fù)現(xiàn)有錯(cuò)誤代碼。若用戶清楚想讓代碼做什么（創(chuàng)造性部分），則需編寫一個(gè)提示以指示模型使用哪種語言和庫（機(jī)械部分）。隨后，運(yùn)行代碼以確定其是否有效。最壞的情況是代碼產(chǎn)生了錯(cuò)誤結(jié)果或傳達(dá)了錯(cuò)誤結(jié)論。即使用戶得到了看似正確的答案，也需要仔細(xì)檢查代碼。為此，用戶需理解代碼。這是使用聊天機(jī)器人的關(guān)鍵要點(diǎn)，尤其是對學(xué)生而言。若學(xué)生不知道如何做某事，強(qiáng)烈建議不要使用聊天機(jī)器人來協(xié)助完成。

隨著大語言模型（LLM）能力越來越強(qiáng)，其可助力研究者專注于他們工作中具有創(chuàng)造性和挑戰(zhàn)性的方面，而放棄那些不太需要激發(fā)智力的部分。然而，該過程面臨的挑戰(zhàn)在于確定那些只有人類才可完成的任務(wù)，并認(rèn)識到LLM仍存在局限性。