編者按：生成式人工智能在數(shù)字內(nèi)容創(chuàng)作中的深度介入，有效變革了內(nèi)容生產(chǎn)方式、提高了內(nèi)容生產(chǎn)力，成為打造高質(zhì)量數(shù)字內(nèi)容生態(tài)的有力抓手。從生成式人工智能與數(shù)字內(nèi)容創(chuàng)作的互構(gòu)機(jī)制來(lái)看，人機(jī)協(xié)同促成頭腦風(fēng)暴與創(chuàng)意涌現(xiàn)，智能應(yīng)用有效提高內(nèi)容創(chuàng)作的可拓展性。然而，生成式人工智能用于數(shù)字內(nèi)容創(chuàng)作仍存在現(xiàn)實(shí)障礙，面臨著技術(shù)慣性依賴造成創(chuàng)新阻滯、數(shù)據(jù)偏見帶來(lái)價(jià)值誤導(dǎo)、數(shù)據(jù)安全風(fēng)險(xiǎn)消解主體互信等突出難題。

以經(jīng)過(guò)大型數(shù)據(jù)集訓(xùn)練和優(yōu)化的機(jī)器學(xué)習(xí)模型為內(nèi)核，生成式人工智能可以為數(shù)字內(nèi)容創(chuàng)作提供全新解決方案。生成式人工智能在數(shù)字內(nèi)容創(chuàng)作方面的突出優(yōu)勢(shì)，能夠有效提升內(nèi)容生產(chǎn)效率，一定程度上將人力從內(nèi)容生產(chǎn)環(huán)節(jié)解脫出來(lái)，進(jìn)而抽出更多精力投入至創(chuàng)意思考、策略制定，助力打造高質(zhì)量的數(shù)字內(nèi)容生態(tài)。

但生成式人工智能在創(chuàng)意輸出、價(jià)值引領(lǐng)、數(shù)據(jù)安全等方面亦面臨復(fù)雜挑戰(zhàn)，必須謹(jǐn)慎對(duì)待。據(jù)此，有必要厘清生成式人工智能與數(shù)字內(nèi)容創(chuàng)作的耦合機(jī)制，繼而發(fā)掘其中的結(jié)構(gòu)缺陷和認(rèn)知黑箱，為明確技術(shù)應(yīng)用界限、完善技術(shù)賦能機(jī)制找尋可能的切口和方法。

一、問(wèn)題的提出

面對(duì)生成式人工智能迅猛發(fā)展所帶來(lái)的新機(jī)遇、新風(fēng)險(xiǎn)，圍繞如何防范和規(guī)避生成式人工智能的潛在陷阱及消極影響，世界各國(guó)紛紛制定實(shí)施方案，為生成式人工智能治理提供方向參考與遵循。如中國(guó)的《生成式人工智能服務(wù)管理暫行辦法》、歐盟的《人工智能法案（AI Act）》等。聚焦生成式人工智能在數(shù)字內(nèi)容創(chuàng)作領(lǐng)域的應(yīng)用實(shí)踐及風(fēng)險(xiǎn)防范，學(xué)界主要循著以下三種路徑進(jìn)行探討。

一是生成式人工智能影響機(jī)制的研究路徑。此研究路徑對(duì)于生成式人工智能賦能數(shù)字內(nèi)容創(chuàng)作的探討，已經(jīng)跳脫出單純強(qiáng)調(diào)生成式人工智能具體功效的論斷，著重從跨學(xué)科和人機(jī)協(xié)同視角出發(fā)，思考如何依托生成式人工智能更好激發(fā)創(chuàng)新力、提高生產(chǎn)力。

二是生成式人工智能治理機(jī)制的研究路徑。此研究路徑重點(diǎn)關(guān)注生成式人工智能在內(nèi)容創(chuàng)作領(lǐng)域中的風(fēng)險(xiǎn)識(shí)別與治理，實(shí)證主義色彩凸顯，但缺乏對(duì)技術(shù)應(yīng)用現(xiàn)實(shí)挑戰(zhàn)與潛在風(fēng)險(xiǎn)的系統(tǒng)性審視。

三是生成式人工智能應(yīng)用前景的研究路徑。此研究路徑側(cè)重關(guān)注生成式人工智能未來(lái)發(fā)展趨向及應(yīng)用領(lǐng)域，提出了技術(shù)應(yīng)用場(chǎng)景的諸多可能性，然而，對(duì)如何推進(jìn)生成式人工智能健康可持續(xù)發(fā)展，以及如何有效規(guī)避和消除風(fēng)險(xiǎn)挑戰(zhàn)，尚未提出系統(tǒng)性的解決方案。

二、生成式人工智能與數(shù)字內(nèi)容創(chuàng)作的互構(gòu)機(jī)制

新一輪科技革命中，生成式人工智能持續(xù)解構(gòu)和重塑數(shù)字內(nèi)容創(chuàng)作生態(tài)，其自然語(yǔ)言處理和機(jī)器學(xué)習(xí)算法的不斷升級(jí)與突破。生成式人工智能與數(shù)字內(nèi)容創(chuàng)作的融合互構(gòu)，有助于提升技術(shù)智能化水平、提高內(nèi)容生產(chǎn)力、增強(qiáng)用戶參與度，二者在邏輯交叉與耦合中共同構(gòu)筑數(shù)字內(nèi)容創(chuàng)作新景觀。

其一，人機(jī)協(xié)同促成頭腦風(fēng)暴與創(chuàng)意涌現(xiàn)。生成式人工智能的迭代升級(jí)推動(dòng)人機(jī)高效協(xié)同和適配，為數(shù)字內(nèi)容創(chuàng)作領(lǐng)域帶來(lái)新一波的創(chuàng)新浪潮。生成式人工智能以人類實(shí)踐經(jīng)驗(yàn)和創(chuàng)新提示為基礎(chǔ)，助力人類創(chuàng)作者突破自身創(chuàng)新障礙。

其二，智能應(yīng)用提高內(nèi)容創(chuàng)作的可擴(kuò)展性。一方面，生成式人工智能的介入使得規(guī)模化的內(nèi)容生產(chǎn)成為現(xiàn)實(shí)，且能保障較高質(zhì)量和內(nèi)容多樣性，促進(jìn)內(nèi)容創(chuàng)作在效率和交互性等方面得以延展。另一方面，生成式人工智能在內(nèi)容創(chuàng)作過(guò)程中能夠有效強(qiáng)化與目標(biāo)受眾的交互性，打造個(gè)性化交互場(chǎng)景。

其三，全維介入突破內(nèi)容創(chuàng)作的敘事界限。生成式人工智能通過(guò)革新內(nèi)容創(chuàng)作流程、提供個(gè)性化體驗(yàn)、強(qiáng)化受眾參與度等重塑數(shù)字內(nèi)容創(chuàng)作環(huán)境，其對(duì)內(nèi)容生成的全方位融入，促使內(nèi)容創(chuàng)作不斷突破既有界限，向更廣闊視野延展挺進(jìn)。

其四，自適應(yīng)動(dòng)態(tài)評(píng)估反哺內(nèi)容生成決策?；谏墒饺斯ぶ悄艿膬?nèi)容輸出并非總是最理想或最準(zhǔn)確的結(jié)果，后續(xù)仍需要一定程度的人工干預(yù)。在人工干預(yù)和引導(dǎo)下，生成式人工智能能夠?qū)λ鶆?chuàng)作內(nèi)容進(jìn)行原創(chuàng)性、標(biāo)準(zhǔn)性和結(jié)構(gòu)性檢查，并結(jié)合檢查結(jié)果進(jìn)行針對(duì)性優(yōu)化，以確保所輸出內(nèi)容符合用戶需求。

三、生成式人工智能用于數(shù)字內(nèi)容創(chuàng)作的問(wèn)題診斷

正如其他創(chuàng)新工具一樣，生成式人工智能在初期應(yīng)用階段也面臨著不少問(wèn)題，且隨著應(yīng)用逐漸深入，一些挑戰(zhàn)愈發(fā)凸顯。主要表現(xiàn)在以下幾方面：

技術(shù)使用存在慣性依賴，造成創(chuàng)新阻滯。生成式人工智能的高效率使機(jī)器生產(chǎn)內(nèi)容的比重不斷增加，人類創(chuàng)作者對(duì)其依賴程度亦有所加深。但生成式人工智能在理解和欣賞人類情感、經(jīng)驗(yàn)和文化背景的細(xì)微差別方面，較之真人仍有較大差異。這就導(dǎo)致生成式人工智能難以復(fù)制或替代現(xiàn)實(shí)生活中的經(jīng)驗(yàn)感知及人際互動(dòng)，一定程度上造成積極情感刺激的匱乏，這對(duì)于激發(fā)人類創(chuàng)新創(chuàng)造意識(shí)無(wú)疑是無(wú)益的。基于訓(xùn)練數(shù)據(jù)集和算法模型的生成式人工智能，往往依托現(xiàn)有數(shù)據(jù)中的創(chuàng)作模式和風(fēng)格進(jìn)行內(nèi)容生成，在為目標(biāo)群體進(jìn)行個(gè)性化內(nèi)容供給時(shí)，將加速和固化圈層效應(yīng)，最終導(dǎo)致群體極化和思維固化，從而扼殺人類創(chuàng)造力，于一定范圍和時(shí)期內(nèi)造成創(chuàng)新阻滯。

訓(xùn)練數(shù)據(jù)或存潛在偏見，帶來(lái)價(jià)值誤導(dǎo)。在推動(dòng)生成式人工智能迭代升級(jí)的同時(shí)，生成式人工智能模型可能無(wú)意中延續(xù)或放大其訓(xùn)練數(shù)據(jù)中潛藏的人類偏見，包括關(guān)于性別、種族、文化等的刻板印象，潛移默化中將對(duì)目標(biāo)受眾形成價(jià)值誤導(dǎo)，亦容易給社會(huì)主流價(jià)值帶來(lái)消解和沖擊風(fēng)險(xiǎn)。另外，生成式人工智能在決策制定方面缺乏透明度，從而出現(xiàn)“決策黑箱”。由于人類創(chuàng)作者、目標(biāo)受眾及監(jiān)管部門等主體難以了解人工智能內(nèi)容生成方式、算法規(guī)則及其所使用的數(shù)據(jù)源，也就無(wú)法審核其內(nèi)容生成過(guò)程，難以驗(yàn)證或識(shí)別偏見。

數(shù)據(jù)安全風(fēng)險(xiǎn)全域多發(fā)，消解主體互信。廣泛的數(shù)據(jù)來(lái)源與龐大的數(shù)據(jù)規(guī)模也引發(fā)各界對(duì)數(shù)據(jù)安全的嚴(yán)重?fù)?dān)憂。尤其在模型訓(xùn)練及開展服務(wù)過(guò)程中，不加限制的數(shù)據(jù)輸入勢(shì)必會(huì)帶來(lái)安全風(fēng)險(xiǎn)。在生成式人工智能應(yīng)用過(guò)程中，一些看似由人工智能生成的內(nèi)容會(huì)誘騙用戶點(diǎn)擊，進(jìn)而會(huì)無(wú)意中啟動(dòng)惡意軟件，且這種惡意軟件和網(wǎng)絡(luò)攻擊，較之傳統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)更難檢測(cè)、識(shí)別和應(yīng)對(duì)。生成式人工智能在數(shù)字內(nèi)容創(chuàng)作中出現(xiàn)的“深度偽造”問(wèn)題亦需引起重視。“深度偽造”內(nèi)容包括圖像、視頻等，其中不乏謠言和虛假信息，存在侵蝕公眾信任、暗藏商業(yè)欺詐、操控輿論等風(fēng)險(xiǎn)。

合成人格凸顯價(jià)值主張，偽造情感紐帶。生成式人工智能可以塑造出具有較好交互性與較強(qiáng)逼真度的合成人格，如數(shù)字人主播、虛擬主持人、聊天機(jī)器人等，并與用戶建立互動(dòng)關(guān)系。合成人格在豐富人機(jī)交互多樣性的同時(shí)，也在一定程度上挑戰(zhàn)或沖擊人際關(guān)系的真實(shí)性，其通過(guò)營(yíng)造與用戶之間的虛擬情感紐帶，容易使用戶對(duì)其形成依戀，且這種依戀會(huì)影響用戶在現(xiàn)實(shí)世界的社交關(guān)系。另外，基于生成式人工智能塑造的合成人格，其與用戶的交互過(guò)程及方式，將映射至用戶的其他人際交往。合成人格的不當(dāng)言論或建議，可能嚴(yán)重傷害用戶身心健康，甚至在社會(huì)層面帶來(lái)連鎖性負(fù)面影響。

四、生成式人工智能助力數(shù)字內(nèi)容創(chuàng)作的推進(jìn)策略

生成式人工智能正深刻重塑著數(shù)字內(nèi)容創(chuàng)作方式，以及基于數(shù)字內(nèi)容的人機(jī)交互方式，其崛起表征著新時(shí)代的重大技術(shù)進(jìn)步與變革。隨著各類模型應(yīng)用在數(shù)字世界中廣泛出現(xiàn)甚至在部分領(lǐng)域占據(jù)主導(dǎo)，其將對(duì)數(shù)字內(nèi)容生態(tài)建設(shè)帶來(lái)顛覆性影響。但生成式人工智能的具體應(yīng)用也帶來(lái)了諸多風(fēng)險(xiǎn)與隱憂，需要積極應(yīng)對(duì)。具體措施如下：

鼓勵(lì)國(guó)際開放創(chuàng)新，促進(jìn)良性競(jìng)合。全球互聯(lián)互通場(chǎng)景下，挖掘和釋放生成式人工智能的發(fā)展?jié)摿Γ陉P(guān)注和激勵(lì)本土創(chuàng)新的同時(shí)，亦應(yīng)鼓勵(lì)國(guó)際開放創(chuàng)新。在技術(shù)開發(fā)環(huán)節(jié)，鼓勵(lì)適當(dāng)程度的開源合作，尤其要同國(guó)際頭部研發(fā)企業(yè)或機(jī)構(gòu)在數(shù)據(jù)、算法與平臺(tái)方面開展深度交流合作，以開放性研究合作突破技術(shù)瓶頸。探索主導(dǎo)或參與生成式人工智能開發(fā)及應(yīng)用的標(biāo)準(zhǔn)制定工作，以確保技術(shù)的穩(wěn)定性、互操作性和可持續(xù)性，同時(shí)減少和化解非必要的技術(shù)競(jìng)爭(zhēng)與摩擦。圍繞數(shù)字內(nèi)容創(chuàng)作，應(yīng)進(jìn)一步鼓勵(lì)國(guó)際范圍內(nèi)的跨學(xué)科創(chuàng)新合作，將生成式人工智能與社會(huì)學(xué)、醫(yī)學(xué)、心理學(xué)、環(huán)境科學(xué)等學(xué)科相結(jié)合，于人類命運(yùn)共同體視角下推動(dòng)解決全球性挑戰(zhàn)與問(wèn)題。

優(yōu)化內(nèi)容評(píng)價(jià)機(jī)制，增加優(yōu)質(zhì)供給。生成式人工智能助力人類創(chuàng)作者更高效地進(jìn)行內(nèi)容生成，一定程度上加劇了創(chuàng)作者之間的競(jìng)爭(zhēng)。而由于內(nèi)容制作成本的整體下降，數(shù)字內(nèi)容正變得更加商業(yè)化，不乏出現(xiàn)同質(zhì)、低質(zhì)內(nèi)容泛濫現(xiàn)象，用戶對(duì)高質(zhì)量?jī)?nèi)容的需求與優(yōu)質(zhì)內(nèi)容供給不足的失衡局面亟待化解。對(duì)此，應(yīng)著重優(yōu)化內(nèi)容評(píng)價(jià)機(jī)制，提高優(yōu)質(zhì)內(nèi)容產(chǎn)出及可見度。一方面，注重?cái)?shù)字內(nèi)容的可追溯性，并對(duì)內(nèi)容來(lái)源進(jìn)行確權(quán)，為高質(zhì)量的數(shù)字內(nèi)容創(chuàng)作保駕護(hù)航。另一方面，注重強(qiáng)化人的創(chuàng)造力介入，利用機(jī)器與人工的雙重比較優(yōu)勢(shì)，促進(jìn)發(fā)散性思維，發(fā)掘新視角、擁抱新想法，從而為目標(biāo)受眾提供高質(zhì)量的內(nèi)容服務(wù)。

推進(jìn)多方協(xié)同治理，糾偏技術(shù)異化。生成式人工智能的深度應(yīng)用，將引發(fā)全球力量平衡與結(jié)構(gòu)的根本性變化。面對(duì)技術(shù)異化帶來(lái)的巨大挑戰(zhàn)，亟需相關(guān)各方加強(qiáng)協(xié)同，在平衡好權(quán)利與責(zé)任的基礎(chǔ)上，共同建立技術(shù)治理規(guī)范性框架，降低或消除其潛在風(fēng)險(xiǎn)。參與主體方面包括政府監(jiān)管部門、科技研發(fā)企業(yè)、技術(shù)應(yīng)用平臺(tái)、數(shù)字產(chǎn)業(yè)協(xié)會(huì)、內(nèi)容策劃與創(chuàng)作者等，治理規(guī)則方面應(yīng)堅(jiān)持模塊化、全維化、動(dòng)態(tài)化治理并重，爭(zhēng)取治理效能最大化。同時(shí)，要結(jié)合技術(shù)發(fā)展趨勢(shì)，增強(qiáng)治理制度或政策的動(dòng)態(tài)性、靈活性，并著重提升其在技術(shù)治理過(guò)程中的自適應(yīng)和自我糾正能力。

強(qiáng)化人本理念引領(lǐng)，回歸本質(zhì)需求。生成式人工智能為數(shù)字內(nèi)容創(chuàng)作帶來(lái)革命性轉(zhuǎn)變，但這并不意味著其要取代人類。反之，生成式人工智能作為人類進(jìn)步的工具和階梯，應(yīng)始終以人為中心，以滿足人的本質(zhì)性需求為目標(biāo)。強(qiáng)化生成式人工智能對(duì)數(shù)字內(nèi)容創(chuàng)作的賦能作用，需要進(jìn)一步強(qiáng)化人機(jī)協(xié)同合作，逐漸將人從機(jī)械性、事務(wù)性任務(wù)中抽脫，使人更加專注于與創(chuàng)造力、專業(yè)知識(shí)、關(guān)系建構(gòu)等相關(guān)的事項(xiàng)。同時(shí)，要將目前內(nèi)容創(chuàng)作的效率導(dǎo)向、規(guī)模導(dǎo)向、流量導(dǎo)向，轉(zhuǎn)至面向高質(zhì)量發(fā)展的共創(chuàng)導(dǎo)向、創(chuàng)意導(dǎo)向和價(jià)值導(dǎo)向，不斷強(qiáng)化人在這場(chǎng)智能化轉(zhuǎn)型大潮中的主導(dǎo)作用。

五、結(jié)語(yǔ)

生成式人工智能應(yīng)用于數(shù)字內(nèi)容創(chuàng)作，深刻變革和重塑著原創(chuàng)性與想象力的概念本身，其能夠顯著促進(jìn)人類的創(chuàng)新創(chuàng)造意識(shí)，拓展內(nèi)容創(chuàng)作的敘事界限。但是作為一把雙刃劍，模型應(yīng)用的背后亦潛藏巨大風(fēng)險(xiǎn)，或?qū)?shù)字內(nèi)容產(chǎn)業(yè)、價(jià)值觀念、社會(huì)秩序等帶來(lái)挑戰(zhàn)和沖擊。

克服這些問(wèn)題的關(guān)鍵在于對(duì)技術(shù)開發(fā)及應(yīng)用全流程進(jìn)行系統(tǒng)監(jiān)測(cè)、動(dòng)態(tài)改進(jìn)和開放對(duì)話，有效放大其應(yīng)用優(yōu)勢(shì)，避免落入技術(shù)誤用的陷阱。此外，健全技術(shù)治理框架應(yīng)作為生成式人工智能未來(lái)部署的重點(diǎn)。重點(diǎn)關(guān)注生成式人工智能模型中算法的真實(shí)性、透明度與公平性，從而防止決策過(guò)程及生成結(jié)果存在偏見。完善生成式人工智能監(jiān)管的制度體系，明確技術(shù)開發(fā)與應(yīng)用的底線和紅線，并建立可追溯機(jī)制和問(wèn)責(zé)機(jī)制，引導(dǎo)形成負(fù)責(zé)任的生成式人工智能發(fā)展生態(tài)，確保生成式人工智能在合理框架內(nèi)持續(xù)向高質(zhì)量發(fā)展挺進(jìn)。

作者簡(jiǎn)介：

郭海威，中國(guó)社會(huì)科學(xué)院新聞與傳播研究所助理研究員

胡正榮，中國(guó)社會(huì)科學(xué)院新聞與傳播研究所所長(zhǎng)，教授

載《傳媒觀察》2024年第11期“在場(chǎng)·AI 及社會(huì)應(yīng)用”專欄，原標(biāo)題為《生成式人工智能賦能數(shù)字內(nèi)容創(chuàng)作：邏輯耦合、實(shí)踐偏差與規(guī)范進(jìn)路》。原文約14000字，此為節(jié)選，注釋從略，學(xué)術(shù)引用請(qǐng)參考原文。