一、算法及其應(yīng)用場景

算法是一種自動化的分析決策工具，根據(jù)其所依賴的數(shù)據(jù)范圍的不同，有廣義、狹義之分。狹義上的算法，即通過計(jì)算機(jī)程序自動分析、評估個(gè)人行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并據(jù)此做出決策［1］，其本質(zhì)是處理個(gè)人信息的智能工具。廣義上的算法，即一切運(yùn)用計(jì)算機(jī)程序?qū)斎氲臄?shù)據(jù)進(jìn)行分析處理，通過自動化手段做出決策的技術(shù)。廣義上的算法自動化運(yùn)行所依賴的數(shù)據(jù)不限于個(gè)人信息，而是包括一切相關(guān)數(shù)據(jù)。而狹義上的算法因涉及個(gè)人信息的收集和使用，更容易引發(fā)法律問題。

對于算法的應(yīng)用場景，現(xiàn)階段尚無系統(tǒng)的、公認(rèn)的定義和分類，網(wǎng)信辦于2021年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第2條第2款對算法推薦類型做出較為詳盡的分類和總結(jié)，其與企業(yè)內(nèi)部對算法應(yīng)用的類型和場景相似，可供參考。具體如下：

二、算法應(yīng)用引發(fā)的法律問題

在算法分類的基礎(chǔ)上，算法應(yīng)用所引發(fā)的一些法律問題大致可分為以下幾類。第一類涉及國家安全、社會公共利益，例如劍橋數(shù)據(jù)分析事件。第二類涉及平臺反壟斷問題，例如經(jīng)營者通過算法合謀所實(shí)施的協(xié)同定價(jià)、差別待遇、限定交易等。第三類涉及公民個(gè)人或經(jīng)營者民事權(quán)利的保護(hù)，例如個(gè)人信息權(quán)益及決策自由，還包括算法歧視、算法剝削、個(gè)性化廣告推薦、“大數(shù)據(jù)殺熟”等。

目前涉及算法的案件主要集中于民事糾紛領(lǐng)域，包括以下三種類型：第一類涉及個(gè)人信息自決權(quán)與決策自由，以社交平臺自動推送個(gè)性化廣告的案件為典型。第二類涉及算法歧視與算法剝削，以外賣平臺配送費(fèi)“大數(shù)據(jù)殺熟”案為典型。第三類糾紛涉及人格權(quán)、人身權(quán)以及知識產(chǎn)權(quán)保護(hù)，以“短視頻著作權(quán)”案為典型。實(shí)踐中，法官在處理上述案件時(shí)，往往遇到相關(guān)困難和挑戰(zhàn)。

首先，算法“透明度”的相對性與可解釋性難以證明。算法在技術(shù)層面只關(guān)注離散度和相關(guān)性，因此當(dāng)事人很難解釋和證明某一具體行為中算法究竟收集了哪些信息、使用了何種信息，以及這些信息被如何使用。當(dāng)前，算法是在一種不斷更新的數(shù)據(jù)池里發(fā)生的即時(shí)分析和運(yùn)算；而民法規(guī)制具有滯后性，加之司法審判要求的解釋與證明標(biāo)準(zhǔn)尚不明確。對企業(yè)而言，在訴訟中證明和解釋算法的實(shí)現(xiàn)原理可行性較弱。

其次，“授權(quán)同意”標(biāo)準(zhǔn)具有不確定性。算法功能時(shí)常涉及用戶個(gè)人信息，如個(gè)性化推薦，目前在算法的“授權(quán)同意”標(biāo)準(zhǔn)上存在一系列尚待回應(yīng)的問題。例如，用戶在隱私設(shè)置上是采取opt in還是opt out，是否所有涉及算法的功能都要獲得用戶的單獨(dú)授權(quán)。再如，是否需要區(qū)分不同內(nèi)容做出不同設(shè)置，比如是廣告還是用戶創(chuàng)作內(nèi)容；給予用戶同意和退出同意的合理時(shí)機(jī)、方式等，這些都需要司法實(shí)踐進(jìn)一步給出回應(yīng)。

再次，技術(shù)的現(xiàn)實(shí)和困境。理論界和實(shí)務(wù)界對算法在技術(shù)可行性的理解上存在巨大分歧。用戶傾向于將算法推薦系統(tǒng)想象成一個(gè)貼著成百上千個(gè)具體標(biāo)簽的“后臺”，用戶可以表達(dá)其個(gè)人偏好。對此，平臺直觀地展示出這樣一個(gè)“后臺”，即向用戶解釋該算法推薦的運(yùn)作方式。但這種效果過于理想化，在技術(shù)上無法實(shí)現(xiàn)。對現(xiàn)有信息流推薦技術(shù)而言，其推薦內(nèi)容越精準(zhǔn)，就越容易讓人產(chǎn)生推薦系統(tǒng)對被推薦內(nèi)容做出具體識別的錯(cuò)覺。由此，用戶會誤認(rèn)為社交平臺的廣告推薦系通過監(jiān)聽用戶談話、監(jiān)控用戶聊天而實(shí)現(xiàn)。但對于大型互聯(lián)網(wǎng)平臺而言，對于這類主體不可能也不需要識別其內(nèi)容。一方面，平臺難以承受計(jì)算、識別具體內(nèi)容的成本。另一方面，平臺缺少進(jìn)行機(jī)器識別內(nèi)容培訓(xùn)的基礎(chǔ)素材（如視頻原片）。值得指出的是，算法推薦機(jī)制的原理主要有二：一是“基于內(nèi)容的推薦”，二是“基于協(xié)同過濾的推薦”。對平臺而言，根據(jù)用戶行為和相似度，通過用戶協(xié)同過濾進(jìn)行推薦效果尚可，因此平臺并無識別具體內(nèi)容的必要。

倘若平臺的算法技術(shù)先進(jìn)，其內(nèi)容自然會加速傳播，優(yōu)質(zhì)內(nèi)容隨之被更多人看到，這正是算法技術(shù)創(chuàng)新的意義所在，也是算法應(yīng)用的愿景。簡言之，先進(jìn)的算法自然會帶來更多的用戶關(guān)注和流量。同時(shí)，應(yīng)當(dāng)避免“一刀切”地認(rèn)為平臺有責(zé)任解決隨之產(chǎn)生的所有問題?；ヂ?lián)網(wǎng)行業(yè)當(dāng)前的共識是，平臺應(yīng)當(dāng)在技術(shù)創(chuàng)新與利益分配、社會責(zé)任與公共利益之間的利益平衡中有所作為。但也應(yīng)當(dāng)認(rèn)識到，任何技術(shù)都有其局限性，在信息分發(fā)上具有優(yōu)勢的技術(shù)，其識別和處理信息的效果未必最好，需要其他技術(shù)和措施的輔助。而這一切也需要投入時(shí)間、資金成本并深入探索和驗(yàn)證技術(shù)手段的可行性。唯此，才有望更合理地界定平臺責(zé)任的邊界。

正如杭州互聯(lián)網(wǎng)法院在（2021）浙0192民初10493號民事判決書中指出［2］，算法本身并不具有可責(zé)性，算法推薦不具備實(shí)質(zhì)性侵權(quán)的用途或系專門為實(shí)施侵權(quán)行為而服務(wù)，更非用于推薦被訴侵權(quán)視頻。法院應(yīng)根據(jù)個(gè)案情況予以綜合審查評價(jià)，其關(guān)鍵在于分析運(yùn)用該項(xiàng)算法技術(shù)的方式和特定場景，以判斷平臺是否明知或應(yīng)知涉案侵權(quán)行為。

三、抖音集團(tuán)算法合規(guī)工作

在算法合規(guī)層面，抖音集團(tuán)整體圍繞算法公開透明、公正公平、向上向善等原則構(gòu)建合規(guī)工作。具體內(nèi)容如下：第一，建立算法安全管理制度，確保算法透明度、相關(guān)算法的備案與公示、日志留存等義務(wù)的履行；第二，確保算法知情權(quán)、選擇權(quán)和決定權(quán)的落實(shí)，針對各類消費(fèi)者提供算法推薦服務(wù)，充分保障用戶個(gè)人權(quán)益；第三，堅(jiān)持正確的價(jià)值觀導(dǎo)向，確保算法不被用于惡意競爭或誤導(dǎo)輿論，積極傳播正能量。

在這三大原則的指導(dǎo)下，抖音集團(tuán)從研發(fā)、部署、應(yīng)用等三個(gè)層面構(gòu)建算法合規(guī)體系。確保研發(fā)層關(guān)注底層技術(shù)及科技倫理，部署層關(guān)注技術(shù)原理、算法透明度與可解釋性，應(yīng)用層關(guān)注輸出結(jié)果的公平公正、安全可控。

四、算法治理的建議

從產(chǎn)業(yè)實(shí)踐角度，本文擬針對算法治理提出四點(diǎn)參考建議。

首先，避免算法責(zé)任泛化。由于算法的應(yīng)用深入各領(lǐng)域，算法不可避免地與其他傳統(tǒng)領(lǐng)域和法律規(guī)定產(chǎn)生重合。為此，需要區(qū)分不同層面、不同類型的算法問題。避免把一些本應(yīng)在傳統(tǒng)法律體系下解決的問題裝進(jìn)算法的籮筐，導(dǎo)致算法相關(guān)的問題更加難以厘清。在治理過程中，應(yīng)當(dāng)將真正的算法問題剝離出來，單獨(dú)予以評判。

其次，聚焦算法規(guī)制對象。應(yīng)以算法與人互動的環(huán)節(jié)為切入點(diǎn)，聚焦于算法的“輸出結(jié)果”“干預(yù)和保護(hù)措施”“用戶賦予的權(quán)利”等環(huán)節(jié)，致力于提升算法應(yīng)用的合法性、合理性和安全性，而不應(yīng)拘泥于算法技術(shù)本身。

再次，限縮算法披露方式。企業(yè)應(yīng)避免“一刀切”式的算法披露，要綜合考慮解釋算法的成本、商業(yè)秘密的保護(hù)以及披露后對算法模型安全、平臺秩序造成的影響等，并據(jù)此在披露內(nèi)容、程度、時(shí)間和方式上實(shí)行“差別化對待”。

最后，關(guān)注產(chǎn)業(yè)發(fā)展空間。以抖音集團(tuán)和愛奇藝公司為例，此前雙方就長視頻內(nèi)容的二次創(chuàng)作與推廣達(dá)成合作。從產(chǎn)業(yè)運(yùn)作邏輯、核心利益訴求和發(fā)展規(guī)律來看，短視頻平臺和包括長視頻平臺在內(nèi)的版權(quán)方的合作共贏是必然趨勢。從愛奇藝公司2022年第二季度財(cái)報(bào)電話會議也可看出，愛奇藝公司與抖音集團(tuán)的合作創(chuàng)造了平臺和用戶的雙贏局面，提供了新的合作范例。對愛奇藝公司而言，視頻“短帶長”的導(dǎo)流效應(yīng)能夠?yàn)閻燮嫠嚬編砀嘤脩?，其?yōu)質(zhì)內(nèi)容逐漸被行業(yè)所認(rèn)可。作為長短視頻行業(yè)的頭部平臺，愛奇藝公司和抖音集團(tuán)的合作代表著兩個(gè)行業(yè)規(guī)則相互探索的努力和嘗試。任何產(chǎn)業(yè)的平衡、融合、發(fā)展必將經(jīng)歷一個(gè)過程。在這個(gè)過程中，訴訟只是解決問題的手段。在處理算法相關(guān)的新型司法案件時(shí)，期待司法裁判秉承開放、謙抑的態(tài)度，為解決問題留下足夠的時(shí)間和空間。

作者：劉瑩瑩（抖音集團(tuán)）

編輯：孔曉婷

審稿：牛   斐