|
文/陳根 不論技術(shù)用怎樣的特效打造了可供娛樂(lè)的智能換臉，其背后的風(fēng)險(xiǎn)都值得人們警惕。過(guò)去幾天，人工智能生成動(dòng)圖的風(fēng)潮席卷了大半個(gè)互聯(lián)網(wǎng)。從抖音到微博，人們齊唱“螞蟻呀嘿”的畫面不斷刷屏。而其玩法則來(lái)于國(guó)外的一款AI軟件——Avatarify。盡管該軟件在短時(shí)間內(nèi)就登頂蘋果 App Store免費(fèi)榜，但很快，甚至還不滿一個(gè)星期之后，Avatarify就遭到了下架。而類似的玩法，相似的走紅，快速的下架，其實(shí)在2019年就已發(fā)生。2019年，換臉軟件ZAO正式上線。上線僅一天時(shí)間，這一產(chǎn)品就刷爆各大社交平臺(tái)，其在App Store的免費(fèi)App下載快速登頂，甚至服務(wù)器也因?yàn)橹谱髁窟^(guò)大而宕機(jī)。但是ZAO從上線到App被下架，僅僅用了3天時(shí)間。事實(shí)上，不論是Avatarify還是ZAO，其走紅可能是一場(chǎng)獵奇的意外，而下架卻是風(fēng)險(xiǎn)衡量后的必然。資本用技術(shù)特效打造了可供娛樂(lè)的智能換臉，但歡樂(lè)的背后卻往往需要更深的警惕。 智能換臉走紅可以追溯到 2017 年。當(dāng)時(shí)，國(guó)外論壇一個(gè)ID為“deepfakes”的用戶，發(fā)布了通過(guò)機(jī)器學(xué)習(xí)來(lái)更換視頻人臉的 AI 算法。但由于該算法還需要編譯代碼等操作，使其技術(shù)的使用門檻較高。一個(gè)月后，有用戶將其公開(kāi)的的算法加以改造推出了簡(jiǎn)易版 AI 換臉工具“FakeApp”，而這次，就算是普通用戶，也能夠順利操作。從技術(shù)角度來(lái)看，DeepFakes是“deep machine learming”（深度機(jī)器學(xué)習(xí)）和“Fake photos”（假照片）的組合，是依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，基于數(shù)據(jù)算法和人臉數(shù)據(jù)庫(kù)對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換的技術(shù)工具。在開(kāi)源代碼庫(kù)平臺(tái)CitHub上，DeepFakes被描述為“一種利用深度學(xué)習(xí)技術(shù)來(lái)識(shí)別和交換圖片、視頻中人物臉部圖像的工具”。只要有足夠的圖片視頻素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型進(jìn)行換臉視頻的制作。其具體原理思路為：對(duì)于每張臉，都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時(shí)，使用的是第一個(gè)人的圖片。而解碼時(shí)，卻是使用第二個(gè)人的解碼器。而其中主要包含數(shù)據(jù)預(yù)處理、圖片融合、圖像預(yù)處理、網(wǎng)絡(luò)模型、圖像融合等技術(shù)。此外，利用AI制作換臉視頻除了要借助已開(kāi)源的DeepFakes技術(shù)，還需要兩個(gè)競(jìng)爭(zhēng)AI系統(tǒng)的參與，一個(gè)是生成模型，另一個(gè)是判別模型。生成模型和判別模型的結(jié)合被稱為生成對(duì)抗網(wǎng)絡(luò)技術(shù)（CenerativeAderaril Netwoks，CAN），也是AI換臉最底層的邏輯。GAN是AI機(jī)器學(xué)習(xí)中較成熟的理論。在最開(kāi)始的技術(shù)中，DepFakes正是借助生成對(duì)抗網(wǎng)絡(luò)，通過(guò)上萬(wàn)張照片來(lái)替換視頻每秒鐘存在的30個(gè)畫面，最終通過(guò)GPU（CaphiesPoesing Unit，圖形處理器，簡(jiǎn)稱“GPU”）訓(xùn)練完成“移花接木”，僅憑一張照片便可實(shí)現(xiàn)面部替換和視頻生成。GAN由生成器和識(shí)別器兩個(gè)相互競(jìng)爭(zhēng)的系統(tǒng)組成。建立GAN的第一步是識(shí)別所需的輸出，并為生成器創(chuàng)建一個(gè)培訓(xùn)數(shù)據(jù)集。一旦生成器開(kāi)始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識(shí)別器進(jìn)行鑒別；如果鑒別出視頻是假的，就會(huì)告訴生成器在創(chuàng)建下一個(gè)視頻時(shí)需要修正的地方。根據(jù)每次的“對(duì)抗”結(jié)果，生成器會(huì)調(diào)整其制作時(shí)使用到的參數(shù)，直到鑒別器無(wú)法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上，終于生成合成視頻。隨著“FakeApp”的開(kāi)發(fā)，DeepFakes技術(shù)變得唾手可得，后來(lái)的ZAO和現(xiàn)在的Avatarify的出現(xiàn)正是基于這一技術(shù)。不同的是，對(duì)比DeepFakes需要大量的技術(shù)專業(yè)知識(shí)、龐大的數(shù)據(jù)集以及昂貴的GPU，ZAO和Avatarify都已經(jīng)更容易使用，也更容易訪問(wèn)。以至于Avatarify相關(guān)話題播放在短短七天內(nèi)就已高達(dá) 27.8 億次，特效則被 785萬(wàn)人使用。 社交媒體時(shí)代，人們經(jīng)常要為一些快樂(lè)付出代價(jià)。短視頻讓人們獲得了輕松、通俗、娛樂(lè)的時(shí)間，也更容易造成大眾對(duì)其斷章取義，對(duì)眾多事物產(chǎn)生過(guò)于簡(jiǎn)單甚至錯(cuò)誤的認(rèn)知。信息流通的成本降低，速度加快，隨之而來(lái)的就是繁雜多樣的信息冗余以及真假參半的各類消息。人們?cè)谏缃幻襟w時(shí)代有所選擇，也為此讓渡一部分權(quán)利，但有些風(fēng)險(xiǎn)卻過(guò)于沉重且往往帶著不可挽回的損失。智能換臉就是其中之一。首先，智能換臉進(jìn)一步增加侵犯肖像權(quán)和隱私權(quán)的可能。沒(méi)人愿意自己的臉龐出現(xiàn)在莫名其妙的視頻當(dāng)中。此次Avatarify的流行過(guò)程中，馬云、馬化騰、馬斯克等一眾商業(yè)巨頭們就成了娛樂(lè)的對(duì)象，以至于被迫組合在一起集體演唱神曲《螞蟻呀嘿》。除此之外，劉德華、張學(xué)友、郭富城和黎明也被召集演唱了神曲，網(wǎng)友吐槽“一打開(kāi)抖音，好像捅了螞蟻窩。”娛樂(lè)之外，卻不得不讓人心生憂慮。披著娛樂(lè)外衣的AI換臉，冠冕堂皇地使用著他人的肖像，而其應(yīng)用對(duì)肖像權(quán)和隱私的侵害更將隨著技術(shù)的泛濫而放大。于是，借助一些低價(jià)乃至免費(fèi)的軟件，消費(fèi)者無(wú)需專業(yè)知識(shí)和技術(shù)能力，即可通過(guò)終端實(shí)現(xiàn)調(diào)整速度、攝像頭效果、更換背景、實(shí)現(xiàn)換臉等操作。而這些眨眼、搖頭等動(dòng)態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設(shè)想。2019 年 3 月份，《華爾街日?qǐng)?bào)》報(bào)道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國(guó)某能源公司在德國(guó)母公司 CEO 的聲音，詐騙了220 000 歐元（約1 730 806人民幣），其破壞性可見(jiàn)一斑。其次，這也在一定程度上成為了色情視頻濫觴的源頭。值得一提的是，AI換臉最初的獵奇就是被應(yīng)用于色情行業(yè)。2017年，美國(guó)新聞網(wǎng)站 Reddit的用戶首先上傳了經(jīng)過(guò)數(shù)字化篡改的色情視頻，即這些視頻中的成人演員的臉被替換成了電影明星的臉。此后，Reddit網(wǎng)站就成了分享虛假色情視頻的一個(gè)陣地。2019年出現(xiàn)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動(dòng)生成相應(yīng)的裸照。受害者通常沒(méi)有追索權(quán)，并且，照片上傳之后難再刪除。這種輕易生成的色情視頻將很大程度上損害女性的工作前途、人際關(guān)系、名譽(yù)和心理健康，造成污名化女性、色情報(bào)復(fù)的惡果，使女性暴露在某種集體監(jiān)視之中。最后，也是智能換臉帶來(lái)的最嚴(yán)重后果，就是對(duì)于信息的真實(shí)性形成的嚴(yán)峻挑戰(zhàn)。自從攝影術(shù)、視頻、射線掃描技術(shù)出現(xiàn)以來(lái)，視覺(jué)文本的客觀性就在法律、新聞以及其他社會(huì)領(lǐng)域被慢慢建立起來(lái)，成為真相的存在，或者說(shuō)，是建構(gòu)真相的最有力證據(jù)。“眼見(jiàn)為實(shí)”成為這一認(rèn)識(shí)論權(quán)威的最通俗表達(dá)，在這個(gè)意義上，視覺(jué)客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。 然而，PS 發(fā)明后，有圖不再有真相。智能換臉的出現(xiàn)和流行，讓視頻也開(kāi)始變得鏡花水月了起來(lái)：人們普遍認(rèn)為視頻可以擔(dān)當(dāng)“實(shí)錘”，而現(xiàn)在這把實(shí)錘竟可憑空制造，當(dāng)真?zhèn)谓缦薇粩?shù)字化操縱，娛樂(lè)的趣味性與真相的真實(shí)性在混淆視聽(tīng)的人工智能生成物問(wèn)世后變得更加模糊。這對(duì)于本來(lái)就假消息滿天飛的互聯(lián)網(wǎng)來(lái)說(shuō)，這無(wú)疑會(huì)造成進(jìn)一步的信任崩壞。如今“眼見(jiàn)為實(shí)”已不再適用，人類難以在日常的社會(huì)生活中區(qū)分?jǐn)?shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測(cè)與過(guò)度猜忌的界限更加難以平衡。當(dāng)人工智能能自動(dòng)生成以假亂真的面容、聲音乃至語(yǔ)言的時(shí)候，互聯(lián)網(wǎng)乃至整個(gè)社會(huì)又該如何應(yīng)對(duì)這種身份信息的混亂？可以說(shuō)，不論是Avatarify還是ZAO，其走紅可能是一場(chǎng)獵奇的意外，而下架卻是風(fēng)險(xiǎn)衡量后的必然。不論是從法律規(guī)制的角度，還是技術(shù)應(yīng)對(duì)的角度，人們都尚未準(zhǔn)備好迎接這一技術(shù)帶來(lái)的挑戰(zhàn)。越是新技術(shù)時(shí)代，技術(shù)越應(yīng)該被善用，泛濫帶來(lái)的過(guò)度娛樂(lè)雖然利好了商業(yè)，卻是一種僭越。
|
