一、問(wèn)題提出

人工智能（AI）代表了一種旨在模擬人類智能的高性能且復(fù)雜的技術(shù)。人工智能處于所謂的“第四次工業(yè)革命”的核心（Schwab，2017），其特點(diǎn)是代理和控制從人類向技術(shù)的轉(zhuǎn)變，從而改變了我們之前對(duì)人類與技術(shù)關(guān)系的理解（Murray, Rhymer, & Sirmon, 2020）。這場(chǎng)革命及其影響凸顯了組織研究人員需要解決的新理論和實(shí)證問(wèn)題，因?yàn)槿斯ぶ悄苡袧摿︼@著改變整體勞動(dòng)力結(jié)構(gòu)以及組織和工作的設(shè)計(jì)、決策和知識(shí)管理的方式(Brynjolfsson, Mitchell, & Rock, 2018; Danaher, 2017; Huang & Rust, 2018; Kaplan, 2015; Kellogg, Valentine, & Christin, 2019; Pfeffer, 2018; Wirtz et al., 2018; Graetz & Michaels, 2018)。這些變化的具體形式仍有待確定；這為開(kāi)放的、多學(xué)科的對(duì)話留下了空間，對(duì)話應(yīng)該探索人與人工智能的協(xié)作并進(jìn)一步促進(jìn)人工智能的發(fā)展方式。用戶對(duì)人工智能技術(shù)的信任對(duì)于確定人工智能技術(shù)在組織未來(lái)發(fā)展中的作用至關(guān)重要。因此，我們回顧了最新的實(shí)證研究，為理解人類如何建立對(duì)人工智能的信任奠定基礎(chǔ)。

1、人工智能是什么？

在管理研究中，人工智能被定義為能夠通過(guò)以下方式與環(huán)境交互的新一代技術(shù)：（a）從外部（包括自然語(yǔ)言）或其他計(jì)算機(jī)系統(tǒng)收集信息； (b) 解釋該信息、識(shí)別模式、歸納規(guī)則或預(yù)測(cè)事件； (c) 生成結(jié)果、回答問(wèn)題或向其他系統(tǒng)發(fā)出指令； (d) 評(píng)估其行動(dòng)結(jié)果并改進(jìn)其決策系統(tǒng)以實(shí)現(xiàn)具體目標(biāo)(Ferr’as-Hern’andez, 2018)。人工智能的交互特性使其能夠根據(jù)環(huán)境線索學(xué)習(xí)和改變其行為(Frantz, 2003; Rahwan et al., 2019)。由于人工智能運(yùn)行的環(huán)境通常高度復(fù)雜且部分隨機(jī)，人工智能的行為不是確定性的(Danks＆London, 2017），人工智能決策的復(fù)雜多層過(guò)程通常不透明。這意味著人工智能的決策可能難以預(yù)測(cè)，而且每個(gè)決策背后的邏輯往往很難被理解。

未來(lái)文獻(xiàn)假設(shè)人工智能是一組算法，能夠很好地執(zhí)行所有任務(wù)，甚至可以比人類更好地執(zhí)行所有任務(wù)。然而，這種被稱為強(qiáng)人工智能或通用人工智能的超級(jí)智能尚不存在，因此本次綜述的重點(diǎn)是目前正在使用的弱人工智能或狹義人工智能（Raj & Seamans，2019；Russell & Norvig，1995）。弱人工智能基于多種能夠?qū)崿F(xiàn)人類智能片段模擬的技術(shù)，例如人臉識(shí)別。為了更好地理解人工智能與傳統(tǒng)技術(shù)的不同之處，有必要解釋人工智能的一個(gè)常用組成部分，即機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)中有兩個(gè)重要的假設(shè)：首先，雖然目標(biāo)是由程序員制定的（例如，最大限度地減少失誤與最大化命中），但引導(dǎo)計(jì)算機(jī)做出決策的具體計(jì)算是基于數(shù)據(jù)的，并且主要是未知。其次，計(jì)算機(jī)能夠比人類更大程度地使用數(shù)據(jù)，因此可能比人類取得更好的結(jié)果（Brynjolfsson & Mitchell，2017）。

考慮到人工智能技術(shù)的獨(dú)特性質(zhì)，解決人工智能和自動(dòng)化之間的差異非常重要，因?yàn)檫@些術(shù)語(yǔ)經(jīng)常互換使用（例如，Lee & See，2004）。自動(dòng)化是指計(jì)算機(jī)遵循預(yù)先編程的規(guī)則來(lái)執(zhí)行以前由人類執(zhí)行的重復(fù)和單調(diào)任務(wù)的情況（Parasuraman & Riley，1997）。傳統(tǒng)自動(dòng)化產(chǎn)生的行為及其結(jié)果是預(yù)先編程的并且易于理解。傳統(tǒng)自動(dòng)化是確定性的，不包括任何學(xué)習(xí)過(guò)程（例如 Raj & Seamans，2019）。然而，自動(dòng)化可以通過(guò)人工智能來(lái)實(shí)現(xiàn)，這意味著機(jī)器學(xué)習(xí)算法制定自動(dòng)化過(guò)程遵循的規(guī)則，并且它們還根據(jù)經(jīng)驗(yàn)和反饋進(jìn)行學(xué)習(xí)和調(diào)整。因此，自動(dòng)化在執(zhí)行智能系統(tǒng)確定的操作中發(fā)揮著重要作用，因此本綜述包括檢驗(yàn)對(duì)智能、人工智能自動(dòng)化的信任的研究。人工智能的具體技術(shù)細(xì)節(jié)超出了本次審查的范圍；我們的重點(diǎn)是回顧與使用者信任或不信任人工智能技術(shù)的看法和傾向相關(guān)的現(xiàn)有實(shí)證研究。

2、信任是什么？ 

被引用最多的信任定義之一是由 Mayer、Davis 和 Schoorman (1995) 提出的，他們認(rèn)為信任是“一方基于對(duì)另一方將采取對(duì)信任者很重要的特定行動(dòng)的預(yù)期而愿意受另一方行動(dòng)影響的意愿，而不論是否有能力監(jiān)督或控制該另一方” (Mayer, Davis, & Schoorman, 1995, p. 712)。這個(gè)定義強(qiáng)調(diào)了受影響的意愿以及所采取的行動(dòng)的重要性，并且不將信任的概念限制于人與人之間的互動(dòng)，使我們能夠考慮技術(shù)方面的信任，包括人工智能(Wang, Qiu, Kim, & Benbasat, 2016)。盡管其他文獻(xiàn)中的定義包含了一些不同的假設(shè)，例如人際關(guān)系或制度關(guān)系的社會(huì)嵌入屬性，但將信任概念化為一種傾向，即在相信有很大機(jī)會(huì)獲得積極結(jié)果的同時(shí)承擔(dān)有意義的風(fēng)險(xiǎn)，這在不同學(xué)科中是通用的(Hoff & Bashir, 2015; Rousseau, Sitkin, Burt, & Camerer, 1998)。

許多現(xiàn)有的組織研究都認(rèn)為信任是一種認(rèn)知結(jié)構(gòu)，涉及對(duì)被信任人和情境特征的理性評(píng)估(Schoorman et al., 2007)。然而，信任也可能受到非理性因素的影響，例如情緒和情緒（Komiak＆Benbasat，2006）。McAllister (1995) 將后者稱為情感驅(qū)動(dòng)或基于情感的信任，表明在人際關(guān)系中，除了基于被信任人依賴和能力認(rèn)知的認(rèn)知信任之外，人們還發(fā)展提供支持和舒適的社會(huì)聯(lián)系。人類同事之間的情感信任與認(rèn)知信任的不同之處不僅在于其前因，而且在于其行為后果（Jones & George，1998；Ng & Chua，2006）。Hoff 和 Bashir（2015）認(rèn)識(shí)到對(duì)人類的信任和對(duì)技術(shù)的信任之間的差異，認(rèn)為為了理解復(fù)雜新技術(shù)的采用，必須解決情感驅(qū)動(dòng)的信任問(wèn)題。使用未知的復(fù)雜技術(shù)，例如人工智能，表明需要“信仰的飛躍”（Hoff＆Bashir，2015；Lee＆See，2004）以及對(duì)無(wú)法直接觀察或認(rèn)知理解的過(guò)程的信任。因此，在本綜述中，我們討論了人工智能認(rèn)知和情感信任的實(shí)證研究。

這篇綜述介紹了目前計(jì)算機(jī)科學(xué)、人機(jī)交互、人為因素、信息系統(tǒng)、機(jī)器人、管理、營(yíng)銷和心理學(xué)文獻(xiàn)中討論人工智能信任的方式。針對(duì)人類對(duì)人工智能的信任，我們首先使用谷歌學(xué)術(shù)平臺(tái)，搜索以下關(guān)鍵詞：人工智能、智能代理、代理與人類交互、算法厭惡、機(jī)器人-人交互、智能自動(dòng)化、對(duì)機(jī)器人的信任、對(duì)技術(shù)的信任。我們將搜索范圍限制為過(guò)去 20 年（1999 年至 2019 年）發(fā)表的文章，以解決與人工智能最新技術(shù)發(fā)展相伴的實(shí)證工作。我們根據(jù)內(nèi)容篩選文章，包括與人類對(duì)人工智能的信任相關(guān)的文章，同時(shí)排除算法/架構(gòu)的描述（不提及信任）或僅關(guān)注人類之間的信任的文章。然后我們遵循交叉引用技術(shù)來(lái)找到更多相關(guān)文章。此次檢索揭示了大約 200 篇經(jīng)過(guò)同行評(píng)審的文章和會(huì)議文章，涉及組織行為、人機(jī)交互、機(jī)器人-人交互、信息系統(tǒng)、信息技術(shù)和工程等領(lǐng)域。最后，我們使用 Business Source Premier、Engineering Village 和 PsycINFO 三個(gè)數(shù)據(jù)庫(kù)來(lái)完成文獻(xiàn)綜述，并使用相同的指南，根據(jù)其內(nèi)容添加了額外的 50 篇文章。在上述文章中，只有大約 150 篇提出了直接或間接解決人類對(duì)人工智能信任問(wèn)題的實(shí)證研究。我們還收錄了最近發(fā)表的評(píng)論文章，這些文章重點(diǎn)關(guān)注對(duì)技術(shù)或更一般的機(jī)器人技術(shù)的信任。

1、建立對(duì)人工智能的認(rèn)知信任

信任可以是認(rèn)知的（基于理性思維）和情感的（基于情感；McAllister，1995），并且由于這些類型的信任可能在其前因上有所不同，我們分別討論它們的發(fā)展。我們首先討論影響認(rèn)知信任的各個(gè)物理表征維度，例如有形性、透明性和可靠性；任務(wù)特征；即時(shí)行為，后者體現(xiàn)了人工智能特殊的交互能力（概述見(jiàn)表 1）。

表 1 各維度對(duì)人工智能認(rèn)知信任的主要影響（按表征組織）

2、建立對(duì)人工智能的情感信任

在人類與技術(shù)的關(guān)系中，情感信任并不常見(jiàn)。然而，眾所周知，情緒會(huì)顯著影響人類的信任行為（Hoff & Bashir，2015）。為了組織對(duì)人工智能情感信任實(shí)證研究的回顧，我們討論了這方面研究最多的維度，特別是有形性、擬人化和即時(shí)行為的作用（概述見(jiàn)表 2）。

表 2 各維度對(duì)人工智能情感信任的主要影響（按表征組織）

1、以人為中心的方法為從不同學(xué)科角度對(duì)新技術(shù)的演變和整合感興趣的研究人員之間的合作創(chuàng)造了絕佳的機(jī)會(huì)。盡管目前大多數(shù)關(guān)于人類-人工智能動(dòng)態(tài)的研究是由認(rèn)知工程和信息系統(tǒng)研究人員進(jìn)行的，但組織研究可能會(huì)提供一個(gè)重要的視角，可以考慮微觀和宏觀層面的因素，以及將人工智能引入組織所影響的短期和長(zhǎng)期過(guò)程。例如，實(shí)施人工智能指導(dǎo)的招聘和評(píng)估會(huì)如何改變工人與工作的關(guān)系？與同事的關(guān)系？與上司的關(guān)系？它如何影響組織中的權(quán)力分配？

2、研究方法的改進(jìn)，包括針對(duì)人類受試者的適當(dāng)研究設(shè)計(jì)和先進(jìn)的統(tǒng)計(jì)分析。最重要的是，迫切需要解決用于評(píng)估人類對(duì)人工智能信任的衡量標(biāo)準(zhǔn)的巨大差異。盡管許多研究人員投資開(kāi)發(fā)新的信任量表和行為測(cè)量方法（Bartneck et al., 2009；Charalambous, Fletcher, & Webb, 2016；Headleand, Jackson, Williams, Priday, Teahan, & Ap Cenydd, 2016；Ho & MacDorman， 2010; Miller et al., 2016; Ullman & Malle, 2018; Walker, Verwey, & Martens, 2018），不同學(xué)科之間缺乏關(guān)于測(cè)量問(wèn)題的公開(kāi)對(duì)話，可能會(huì)阻礙研究人員開(kāi)展合作，并將研究影響局限于特定學(xué)科。

3、正如一些研究人員指出的那樣（例如，Yagoda & Gillan，2012），對(duì)人工智能的信任的發(fā)展往往不僅限于個(gè)人用戶，還涉及與直接或間接受人工智能影響的其他人類和機(jī)器的關(guān)系。將人工智能作為一個(gè)復(fù)雜系統(tǒng)（如團(tuán)隊(duì)或網(wǎng)絡(luò)）的一部分進(jìn)行研究，將使研究人員能夠解決組織內(nèi)人們與人工智能建立真正關(guān)系的方式，以及人工智能可能改變?nèi)伺c人之間、人與其他機(jī)器之間關(guān)系的方式。此外，由于人工智能行為不是確定性的，學(xué)者們需要研究它在人與人工智能互動(dòng)的基礎(chǔ)上發(fā)生變化的方式（Rahwan et al., 2019）。未來(lái)的研究應(yīng)考慮從多層次的角度來(lái)看待人工智能中的信任問(wèn)題，這樣才能更準(zhǔn)確地解釋人類行為。

4、以人為本的方法需要從員工的角度考慮人工智能集成，并考慮促進(jìn)人類信任的因素以及特定任務(wù)對(duì)員工的意義和重要性。過(guò)去的研究表明，員工對(duì)新技術(shù)的適應(yīng)是將技術(shù)進(jìn)步轉(zhuǎn)化為業(yè)務(wù)收入的關(guān)鍵因素（Davenport & Short，1990），人工智能不太可能有所不同。因此，在決定將哪些任務(wù)外包給人工智能時(shí)，管理者不僅要考慮現(xiàn)有的技術(shù)能力，還要考慮人類參與者、他們的興趣和動(dòng)機(jī)，以及如何通過(guò)與人工智能合作獲得他們的信任并提高他們的工作效率。

5、組織研究人員應(yīng)考慮的另一個(gè)方面涉及未來(lái)組織領(lǐng)導(dǎo)者所需的技能和特征，他們不僅要管理人類員工，還要管理由不同算法組成的復(fù)雜系統(tǒng)，這些系統(tǒng)之間以及與人類之間的協(xié)作。新一代領(lǐng)導(dǎo)者必須接受過(guò)技術(shù)教育，在引導(dǎo)他們的同時(shí)，亟需確保管理人類員工的技能在商業(yè)計(jì)劃中繼續(xù)發(fā)揮重要作用。保持“人參與其中”是人工智能整合的重要組成部分；因此，未來(lái)的領(lǐng)導(dǎo)者應(yīng)該能夠管理機(jī)器與機(jī)器、人與人以及人與機(jī)器的團(tuán)隊(duì)。