據(jù)英國(guó)金融時(shí)報(bào) 3 月 19 日?qǐng)?bào)道，美國(guó)制藥公司 Collaborations Pharmaceuticals 在探索中發(fā)現(xiàn) AI（人工智能）制藥技術(shù)具有雙重性。如果“反用”（flip）機(jī)器學(xué)習(xí)模型，原本用來(lái)生成治療藥物的 AI 模型就會(huì)生成有毒的物質(zhì)。

在 Collaborations Pharmaceuticals 公司團(tuán)隊(duì)反向使用機(jī)器模型后，新模型在 6 小時(shí)內(nèi)就產(chǎn)生 40000 殺手分子（potential killer molecules），而且 AI 生成的化合物毒性比已知生化武器的毒性都高。如果有人利用這項(xiàng)技術(shù)制造致命生化武器，后果將不堪設(shè)想。

一、AI 模型 6 小時(shí)內(nèi)可生成 40000 個(gè)潛在殺手分子

AI 制藥的規(guī)則很簡(jiǎn)單：有療效的活動(dòng)被算法獎(jiǎng)勵(lì)，有毒的則被懲罰，這樣就可以得到有效的藥物。但是如果改變這一規(guī)則，獎(jiǎng)勵(lì)有毒行為，即“反用”AI，會(huì)得到什么呢？

Collaborations Pharmaceutical 公司位于美國(guó)北卡羅來(lái)納州，主要通過(guò)機(jī)器學(xué)習(xí)確定罕見(jiàn)病及易忽視病的藥物。該公司通過(guò)反向使用機(jī)器學(xué)習(xí)模型，來(lái)探究 AI 生成分子算法的負(fù)面作用。

▲ 制藥工作人員（來(lái)源：Collaborations Pharmaceutical）

在 AI 生成分子的規(guī)則被反用后，AI 接受了一組含有殺蟲(chóng)劑和環(huán)境毒素的初始分子的訓(xùn)練，開(kāi)始計(jì)算如何調(diào)整能讓所生成分子變得更致命。分析過(guò)這種方法所生成的分子后，科學(xué)家得到了驚人的結(jié)果。在服務(wù)器啟動(dòng) 6 小時(shí)內(nèi)，新的 AI 模型就可以生成 40000 個(gè)潛在的殺手分子，包括 VX（一種被禁止的神經(jīng)毒劑）。

修改后的 AI 模型還會(huì)生成其他化學(xué)戰(zhàn)劑（用于戰(zhàn)爭(zhēng)的有極大毒性的化學(xué)物質(zhì)）。而且這些化學(xué)戰(zhàn)劑沒(méi)有一個(gè)在訓(xùn)練數(shù)據(jù)中。其中一些化合物的毒性甚至比目前的生化武器毒性都高。

二、AI 是殺手分子生成器？

當(dāng) Collaborations Pharmaceutical 的創(chuàng)始人 Sean Ekins 在一場(chǎng)會(huì)議中分享過(guò) AI 制藥模型的研究結(jié)果時(shí)，據(jù)倫敦大學(xué)國(guó)王學(xué)院科學(xué)與安全研究中心的聯(lián)合主任 Filippa Lentzos 分享，當(dāng)時(shí)聽(tīng)眾們十分震驚。Lentzos 還談道，盡管 AI 制藥的可能性是多樣的，但是在生命科學(xué)領(lǐng)域，濫用技術(shù)是個(gè)可能會(huì)導(dǎo)致嚴(yán)重后果的問(wèn)題。

Lentzos 和 Ekins 合作研究了機(jī)器學(xué)習(xí)，這一研究在本月登上了頂級(jí)學(xué)術(shù)期刊 Nature 的子刊《Nature Machine Intelligence》?！度斯ぶ悄茯?qū)動(dòng)的藥物發(fā)現(xiàn)的雙重應(yīng)用》論文指出，科學(xué)家們通過(guò)用機(jī)器學(xué)習(xí)，能夠把無(wú)害的生成模型從一個(gè)有用的醫(yī)學(xué)工具變成了殺手分子的生成器。AI 模型生成的一些虛擬分子并不在已知化學(xué)品觀察清單，與現(xiàn)有的殺手分子也沒(méi)什么相似。這表明 AI 制藥能創(chuàng)造出全新類別的、致命的生化武器。

▲ 論文鏈接

從事計(jì)算機(jī)和化學(xué)方面的技術(shù)人員，其知識(shí)和技術(shù)水平遠(yuǎn)超愛(ài)好者等業(yè)余人士。若這些專業(yè)技術(shù)人員有惡意，那他們所做的事危害會(huì)更大。在 AI 制藥過(guò)程中，AI 生成的分子僅是虛擬的藥物配方，其制造通常需要外包給其他提供商業(yè)合成的公司，而這些公司受到的監(jiān)管和監(jiān)督都要更少。

目前，Collaborations Pharmaceutical 已經(jīng)刪除了相關(guān)實(shí)驗(yàn)數(shù)據(jù)，并計(jì)劃限制反向 AI 制藥技術(shù)的使用?；瘜W(xué)領(lǐng)域的《海牙倫理準(zhǔn)則》（The Hague Ethical Guidelines），提倡化學(xué)科學(xué)中的負(fù)責(zé)任行為。Lentzos 建議為從事以 AI 為重點(diǎn)的藥物研發(fā)人員，制定類似《海牙倫理準(zhǔn)則》的行為準(zhǔn)則。

結(jié)語(yǔ)：AI 制藥技術(shù)或有副作用

近年來(lái)，AI 在生物醫(yī)學(xué)領(lǐng)域的應(yīng)用發(fā)展飛速，AI 制藥更是引起了國(guó)內(nèi)外的資本熱潮。隨著圖像識(shí)別、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等關(guān)鍵技術(shù)的突破，AI 在生物醫(yī)藥領(lǐng)域從科研到應(yīng)用都取得了巨大進(jìn)展。

在技術(shù)飛速發(fā)展的同時(shí)，可能的安全隱患并未得到解決。本次，Collaborations Pharmaceutical 公司的研究，體現(xiàn)了 AI 制藥應(yīng)用過(guò)程的雙重性。這也說(shuō)明了利用 AI 制藥技術(shù)快速發(fā)展的同時(shí)要意識(shí)到其潛在的危機(jī)。