提到字節(jié)跳動(dòng)，大家可能首先會(huì)想到抖音、今日頭條、番茄小說(shuō)等APP，但實(shí)際上所有這些大家耳熟能詳?shù)腁PP底層的基礎(chǔ)算力，以及一些核心的與AI相關(guān)的技術(shù)模型，全都沉淀在火山引擎這個(gè)平臺(tái)之上。火山引擎不止承接了字節(jié)內(nèi)部的一些核心業(yè)務(wù)，我們把同樣的技術(shù)、模型能力、產(chǎn)品的解決方案開(kāi)放給客服行業(yè)和公眾。

豆包大模型除了服務(wù)于豆包的AI助手外，也在內(nèi)部各類(lèi)業(yè)務(wù)線審核客服安全等不同的業(yè)務(wù)場(chǎng)景，這意味著豆包大模型集成了來(lái)自各行各業(yè)、多場(chǎng)景的一些豐富的語(yǔ)料沉淀，吸納了更多的人類(lèi)語(yǔ)言常識(shí)以及基礎(chǔ)業(yè)務(wù)通識(shí)。

01

傳統(tǒng)智能客服的局限

智能客服其實(shí)已經(jīng)不算是一個(gè)新鮮的概念了。從10年前開(kāi)始我們就一直在做智能客服，傳統(tǒng)的這些小模型其實(shí)最大的問(wèn)題在于構(gòu)建一個(gè)智能服務(wù)以及維護(hù)一個(gè)智能服務(wù)所需要的成本。

傳統(tǒng)的智能客服主要的運(yùn)作方式需要我們把所有的業(yè)務(wù)知識(shí)、業(yè)務(wù)方法、業(yè)務(wù)流程，都訓(xùn)練成自然語(yǔ)言。在這個(gè)過(guò)程中，一個(gè)業(yè)務(wù)從0~1啟動(dòng)的過(guò)程一般需要上萬(wàn)甚至是數(shù)十萬(wàn)的語(yǔ)料進(jìn)行人工的訓(xùn)練和標(biāo)注。盡管付出了巨大的努力，但整個(gè)智能客服也只能對(duì)于業(yè)務(wù)知識(shí)進(jìn)行簡(jiǎn)單的問(wèn)答，如果客戶(hù)問(wèn)了一些知識(shí)庫(kù)里沒(méi)有訓(xùn)練、沒(méi)有維護(hù)的知識(shí)，智能客服就不能給予相應(yīng)的解答。所以我們也收到了很多吐槽，比如認(rèn)為人工智能不智能。

在傳統(tǒng)的技術(shù)之中，我們識(shí)別到了意圖之后，對(duì)應(yīng)的是一個(gè)固定的答案，也就是說(shuō)，每識(shí)別到一個(gè)用戶(hù)意圖背后的解決方案是唯一的，無(wú)論客戶(hù)的上下文情況和真實(shí)意圖是什么，我們的智能客服只能給出單一的答案。

那火山是如何融入最新的大模型技術(shù)對(duì)此進(jìn)行改善的？

02

降運(yùn)營(yíng)門(mén)檻：某餐飲連鎖坐席輔助案例

有一家連鎖餐飲企業(yè)在全國(guó)有1000多家的連鎖門(mén)店，但是所有客服中心的電話(huà)都集中在一個(gè)團(tuán)隊(duì)集中承接。這個(gè)客服中心核心的業(yè)務(wù)就是訂餐、排號(hào)。在用戶(hù)交互的過(guò)程中，不會(huì)只進(jìn)行簡(jiǎn)單的預(yù)訂，可能還會(huì)涉及停車(chē)、活動(dòng)優(yōu)惠等問(wèn)題，但所有門(mén)店的知識(shí)、情況不一樣，是依靠各個(gè)門(mén)店的店長(zhǎng)、經(jīng)理把信息統(tǒng)計(jì)在一個(gè)公共的文件夾里。當(dāng)客戶(hù)來(lái)電時(shí)，客服再進(jìn)行龐大的信息檢索，一般需要30秒左右，這是服務(wù)過(guò)程中最大的困難和卡點(diǎn)。

在大模型上線后，我們依舊需要各個(gè)門(mén)店的經(jīng)理和服務(wù)員去維護(hù)知識(shí)，但是通過(guò)飛書(shū)的云文檔，大模型可以直接讀取云文檔里所有的業(yè)務(wù)知識(shí)。當(dāng)客戶(hù)在問(wèn)有關(guān)門(mén)店的一些問(wèn)題時(shí)，大模型就會(huì)自動(dòng)找到對(duì)應(yīng)門(mén)店的文檔，快速檢索并生成答案給到用戶(hù)。在這個(gè)過(guò)程中，對(duì)于客服人員來(lái)講，他不需要再繁瑣地去手動(dòng)打開(kāi)文檔，大模型可以自動(dòng)幫他定位門(mén)店，并且從門(mén)店中挑出合適的知識(shí)給予解答。

大模型和小模型時(shí)代的客服有一個(gè)最大的差別是，并不是單純做意圖的一一對(duì)應(yīng)的匹配理解。例如，客戶(hù)想了解包間能坐多少人？傳統(tǒng)的小模型，通過(guò)匹配發(fā)現(xiàn)答案是8個(gè)人，就會(huì)直接回復(fù)客戶(hù)能坐8個(gè)人，到此結(jié)束。但大模型可以回復(fù)：“這個(gè)包間最多容納8個(gè)人，但是2個(gè)相隔的包間中間的隔斷是可以打通的，如果您要預(yù)訂這樣的包間，還需要交50塊錢(qián)包間費(fèi)”。

我們把所有業(yè)務(wù)知識(shí)文檔塞給大模型，相當(dāng)于大模型需要通盤(pán)理解全部知識(shí)，并且根據(jù)用戶(hù)上下文的意圖綜合考量后進(jìn)行回復(fù)。大模型能更多地綜合上下文內(nèi)容、感情和意圖，更有針對(duì)性地對(duì)原始的業(yè)務(wù)知識(shí)進(jìn)行加工。

03

提業(yè)務(wù)效果：某餐飲連鎖坐席輔助案例

在家電企業(yè)又有所不同，其客服中心里有70%～80%的場(chǎng)景是關(guān)于報(bào)裝或報(bào)修的?？头鸬降淖饔檬浅吻逵脩?hù)的問(wèn)題，搞明白用戶(hù)需要我們做什么，并把問(wèn)題記錄下來(lái)傳遞給二線。所以在這個(gè)客服場(chǎng)景里，客服需要根據(jù)客戶(hù)不同的訴求記錄工單并分類(lèi)，經(jīng)過(guò)測(cè)算，我們發(fā)現(xiàn)一個(gè)客戶(hù)的記錄將會(huì)花費(fèi)30秒到40秒左右的時(shí)間。但是在企業(yè)中，尤其是使用BPO客服的企業(yè)，對(duì)于客服還有接單率的考核。

所以在這個(gè)情形下，很多客服在記工單的時(shí)候會(huì)有偷懶的情況，直接把客服和客戶(hù)之間原生的會(huì)話(huà)貼到工單里就開(kāi)始下一單了。這樣會(huì)產(chǎn)生一個(gè)嚴(yán)重的問(wèn)題，二線師傅要花大量時(shí)間和精力去研究到底要為客戶(hù)解決哪些問(wèn)題。

通利用大模型的總結(jié)分析和歸納的能力，可以自動(dòng)把客服與客戶(hù)之間的會(huì)話(huà)進(jìn)行總結(jié)，不但能抓取到常規(guī)的內(nèi)容，比如客戶(hù)訴求、客服的解決方案、最終的協(xié)商結(jié)果；還能對(duì)客戶(hù)情緒的異常進(jìn)行監(jiān)控識(shí)別，最終總結(jié)記錄在工單里，并流轉(zhuǎn)給二線。上線之后經(jīng)過(guò)半個(gè)月的打磨，用AI記工單的準(zhǔn)確率和準(zhǔn)確性已經(jīng)超過(guò)了人工記工單的準(zhǔn)確性。大模型在總結(jié)、分析方面的能力明顯超越了以前的傳統(tǒng)的模型，除了工單的記錄，在質(zhì)檢、VOC機(jī)會(huì)洞察等方面，應(yīng)用同樣的技術(shù)，可以幫客服進(jìn)一步提效，也可以幫助企業(yè)升級(jí)業(yè)務(wù)。

對(duì)于業(yè)務(wù)咨詢(xún)類(lèi)的需求，我們用RAG檢索增強(qiáng)的技術(shù)幫助企業(yè)運(yùn)營(yíng)人員，通過(guò)維護(hù)文檔的形式可以快速更新業(yè)務(wù)信息，比如商品信息、業(yè)務(wù)信息、流程信息、政策信息，可以第一時(shí)間反饋到大模型客服從而保證整個(gè)問(wèn)答效果的良好運(yùn)轉(zhuǎn)。

對(duì)于相對(duì)復(fù)雜的業(yè)務(wù)辦理，除了用大模型的意圖理解之外，我們也提供了一個(gè)偏流程畫(huà)布類(lèi)的編輯工具，這個(gè)工具能夠幫助企業(yè)更好地模擬業(yè)務(wù)流程，通過(guò)大模型+業(yè)務(wù)流程編排工具這種混合的方式，就可以完成相對(duì)來(lái)說(shuō)比較復(fù)雜的業(yè)務(wù)辦理類(lèi)場(chǎng)景。

此外，對(duì)于安全風(fēng)控，我們也提供了相關(guān)的能力，大模型可以理解哪些是屬于危險(xiǎn)的、不友好的、非業(yè)務(wù)的話(huà)術(shù)，在回答客戶(hù)時(shí)可以盡量規(guī)避。

04

火山引擎AI客服的多種靈活方案

火山引擎是怎么把大模型的技術(shù)跟現(xiàn)有的客服系統(tǒng)進(jìn)行一個(gè)集成應(yīng)用的呢？

如上圖，最下層就是我們基礎(chǔ)的原子能力，包括了豆包的大語(yǔ)言模型和一些ASR、TTS這些語(yǔ)音識(shí)別、語(yǔ)音合成的模型。在這個(gè)基礎(chǔ)之上，我們搭建了一個(gè)智能體管理平臺(tái)，核心來(lái)講只有兩個(gè)功能：

1.有關(guān)智能機(jī)器人、方案總結(jié)等產(chǎn)品生成各種各樣的智能體，所有智能體工作的流程規(guī)則都是在這個(gè)平臺(tái)上進(jìn)行搭建和調(diào)試的。2.將業(yè)務(wù)的知識(shí)文檔和流程性的知識(shí)與大模型的平臺(tái)做一些有機(jī)結(jié)合。質(zhì)檢、培訓(xùn)、風(fēng)控、VOC等所有這些的智能體包括智能的應(yīng)用，都是基于火山的基礎(chǔ)能力以及智能體管理平臺(tái)搭建的。

在這個(gè)基礎(chǔ)之上，我們也提供了各種各樣不同的集成方案，大模型知識(shí)庫(kù)最大的特點(diǎn)是不需要再有專(zhuān)業(yè)的人工智能訓(xùn)練師，去將企業(yè)的業(yè)務(wù)文檔一個(gè)個(gè)去解成faq標(biāo)準(zhǔn)問(wèn)、相似問(wèn)答這種格式，而是直接通過(guò)人類(lèi)語(yǔ)言可以理解的業(yè)務(wù)文檔，直接放到大模型的知識(shí)庫(kù)管理平臺(tái)，大模型就會(huì)去閱讀、理解背后的這些知識(shí)，并且給到用戶(hù)最終的一個(gè)回復(fù)。

除了這個(gè)知識(shí)的管理平臺(tái)之外，我們會(huì)通過(guò)流程引擎進(jìn)行一些流程的編排，以支持更復(fù)雜的一些業(yè)務(wù)場(chǎng)景的搭建。除了知識(shí)庫(kù)以及流程引擎之外，我們也提供了一些對(duì)應(yīng)的運(yùn)營(yíng)工具，包括數(shù)據(jù)分析、報(bào)表效果評(píng)估等。其中對(duì)于個(gè)性的知識(shí)，如何融入大模型里面？我們通過(guò)100條左右的小樣本的訓(xùn)練告訴大模型，當(dāng)前的企業(yè)有哪些知識(shí)是個(gè)性、特殊的，就能很快地將企業(yè)的知識(shí)融合在整個(gè)大模型的環(huán)境中。

對(duì)于已經(jīng)有了自己客服系統(tǒng)、工作臺(tái)，包括有saas采買(mǎi)的工作臺(tái)的企業(yè)，我們提供了三種不同的形式：

a. 利用客戶(hù)端版的AI助手，客服只需要打開(kāi)桌面版的AI助手，然后在原來(lái)已有的客服工作臺(tái)里面去做劃詞，之后根據(jù)劃詞之后產(chǎn)生的內(nèi)容，會(huì)給到一些機(jī)器的回復(fù)、總結(jié)、潤(rùn)色等功能。無(wú)需跟已有的各種工作臺(tái)進(jìn)行API和數(shù)據(jù)的打通，只需要在原有的平臺(tái)上進(jìn)行這種插件式的掛載，就能獲取原來(lái)工作臺(tái)中的一些信息，并進(jìn)行進(jìn)一步的加工處理以及回復(fù)。

b. 結(jié)合RPA的方式，本質(zhì)相當(dāng)于模擬一個(gè)客服在工作臺(tái)上進(jìn)行各種操作。例如，汽車(chē)企業(yè)每一個(gè)客服都面臨著成百上千個(gè)不同的微信群，他需要時(shí)刻關(guān)注各種群里是否有人提問(wèn)并給出回復(fù)，利用RPA的技術(shù)可以不斷刷新、搜索到底有沒(méi)有用戶(hù)提出問(wèn)題，如果有，把問(wèn)題抓取出來(lái)，調(diào)用客服的大模型可以快速給用戶(hù)一個(gè)自動(dòng)回復(fù)。此外，還有一些通過(guò)API的集成方式。

c. 我們也提供了一個(gè)端到端的全渠道客服平臺(tái)，這個(gè)平臺(tái)里天然集成了基于大模型的機(jī)器人，基于大模型的智能輔助、智能回復(fù)助手，包括工單助手。

除了產(chǎn)品的服務(wù)以外，火山還提供了對(duì)應(yīng)的運(yùn)營(yíng)服務(wù)，包括最初期大模型的知識(shí)管理、流程搭建、方法論的分享。除了代運(yùn)營(yíng)的服務(wù)之外，我們還提供了一些云客服的人力，如果企業(yè)在服務(wù)的高峰時(shí)段有潮汐效應(yīng)，會(huì)在短時(shí)間內(nèi)需要更多客服的人力支持。

文稿來(lái)源 | 2024（第九屆）中國(guó)數(shù)字服務(wù)產(chǎn)業(yè)發(fā)展年會(huì)

分享嘉賓 | 火山引擎智能客服產(chǎn)品總監(jiān) 趙石

主題分享 | 模力驅(qū)動(dòng)，AI客服助手服務(wù)新體驗(yàn)

整理編排 | 如耶 蔡蔡