一、背景

這幾個月以來，隨著大模型問答應(yīng)用的落地，我們使用越來越深入，發(fā)現(xiàn)了現(xiàn)在大模型的幾個問題：

• 不能輸入長篇內(nèi)容，大都只能輸入一兩千字的文本

• 大多數(shù)情況會編造回答，牛頭不對馬嘴

• 回答的知識范圍不可控

大模型在專有知識問答上表現(xiàn)不佳，原因是模型沒有見過或?qū)W習(xí)過這些知識，自然也給不出我們想要的結(jié)果。

二、常用解決方案

解決思路就是讓模型看見或?qū)W習(xí)這些知識。常用有兩種方式：

• 模型訓(xùn)練：根據(jù)專有知識做一個訓(xùn)練數(shù)據(jù)集，然后用大模型在數(shù)據(jù)集上進行微調(diào)，讓模型去學(xué)習(xí)這些知識

• 外掛知識庫：在問模型問題的時候，額外給他一些專有知識中的相關(guān)信息，讓它從中找到正確的答案

第一種方式成本很高，所以我們基于第二種方式實現(xiàn)了基于外掛知識庫的大模型專屬AI問答助手 —— 智庫（zhiku.space）。

三、智庫(zhiku.space)解決方案

智庫（zhiku.space）一鍵創(chuàng)建知識庫專屬大模型 AI 助手，支持個性化參數(shù)配置，讓每個用戶將會擁有屬于自己的AI助手。

同時開放API接口，提供API調(diào)用方式。開發(fā)人員可以根據(jù)API自定義封裝，提升研發(fā)效率；API支持once-time、real-time、sse三種數(shù)據(jù)獲返回方式。

3.1 搭建步驟

1. 創(chuàng)建知識庫：不同的知識庫，里面的數(shù)據(jù)是隔離的，互不影響