原文鏈接(更好排版、視頻播放、社群交流):https://mp.weixin.qq.com/s/zwSIyquN2P4IhKEQTa8RBQ 28.6k Star!Dify:完善生態(tài)、支持Ollama與本地知識(shí)庫(kù)、企業(yè)級(jí)拖放式UI構(gòu)建AI Agent、API集成進(jìn)業(yè)務(wù)!原創(chuàng) Aitrainee AI進(jìn)修生
體驗(yàn)地址:https://cloud./apps為什么使用 Dify?你或許可以把 LangChain 這類的開發(fā)庫(kù)(Library)想象為有著錘子、釘子的工具箱。與之相比,Dify 提供了更接近生產(chǎn)需要的完整方案,Dify 好比是一套腳手架,并且經(jīng)過了精良的工程設(shè)計(jì)和軟件測(cè)試。 在可視化畫布上構(gòu)建和測(cè)試強(qiáng)大的 AI 工作流程,利用以下所有功能及其他功能。
Dify 能做什么?Dify 一詞源自 Define + Modify,意指定義并且持續(xù)的改進(jìn)你的 AI 應(yīng)用,它是為你而做的(Do it for you)。 創(chuàng)業(yè),快速的將你的 AI 應(yīng)用創(chuàng)意變成現(xiàn)實(shí),無(wú)論成功和失敗都需要加速。在真實(shí)世界,已經(jīng)有幾十個(gè)團(tuán)隊(duì)通過 Dify 構(gòu)建 MVP(最小可用產(chǎn)品)獲得投資,或通過 POC(概念驗(yàn)證)贏得了客戶的訂單。 將 LLM 集成至已有業(yè)務(wù),通過引入 LLM 增強(qiáng)現(xiàn)有應(yīng)用的能力,接入 Dify 的 RESTful API 從而實(shí)現(xiàn) Prompt 與業(yè)務(wù)代碼的解耦,在 Dify 的管理界面是跟蹤數(shù)據(jù)、成本和用量,持續(xù)改進(jìn)應(yīng)用效果。 作為企業(yè)級(jí) LLM 基礎(chǔ)設(shè)施,一些銀行和大型互聯(lián)網(wǎng)公司正在將 Dify 部署為企業(yè)內(nèi)的 LLM 網(wǎng)關(guān),加速 GenAI 技術(shù)在企業(yè)內(nèi)的推廣,并實(shí)現(xiàn)中心化的監(jiān)管。 探索 LLM 的能力邊界,即使你是一個(gè)技術(shù)愛好者,通過 Dify 也可以輕松的實(shí)踐 Prompt 工程和 Agent 技術(shù),在 GPTs 推出以前就已經(jīng)有超過 60,000 開發(fā)者在 Dify 上創(chuàng)建了自己的第一個(gè)應(yīng)用。 知識(shí)庫(kù)從 Notion 導(dǎo)入數(shù)據(jù)Dify 數(shù)據(jù)集支持從 Notion 導(dǎo)入,并設(shè)置 同步 使得數(shù)據(jù)在 Notion 更新后便自動(dòng)同步到 Dify。 通過 API 維護(hù)數(shù)據(jù)集Dify中存在知識(shí)庫(kù)數(shù)據(jù)集的單獨(dú)API,這與他的服務(wù)api不同,你可以單獨(dú)的使用數(shù)據(jù)集的API: 工作流工作流通過將復(fù)雜的任務(wù)分解成較小的步驟,提高了 LLM 應(yīng)用面向復(fù)雜任務(wù)的性能。 Dify 工作流按應(yīng)用情景劃分為兩種類型: · Chatflow:面向多步邏輯的對(duì)話式應(yīng)用程序。
· 常見案例 : 官方文檔中詳細(xì)的介紹了各種使用的節(jié)點(diǎn),以及最終形成的工作流是支持導(dǎo)出的,方便我們團(tuán)隊(duì)協(xié)作。 接入眾多LLM模型配置Dify 目前已支持主流的模型供應(yīng)商,例如 OpenAI 的 GPT 系列、Anthropic 的 Claude 系列等。 模型配置教程:https://docs./v/zh-hans/guides/model-configuration 請(qǐng)查看公眾號(hào)往期文章(有關(guān)于免費(fèi)OpenAI API調(diào)用的介紹、部署項(xiàng)目的時(shí)候如何進(jìn)行API配置) 在 Dify 的 設(shè)置 > 模型供應(yīng)商 中設(shè)置要接入的模型。 配置完模型后,就可以在應(yīng)用中使用這些模型了: 除此以外,Dify對(duì)于各種基礎(chǔ)LLM,進(jìn)行強(qiáng)大的兼容支持,支持各種本地如ollama以及第三方的模型,甚至支持你自定義的模型(需要自己重寫類,和編寫配置yaml) 發(fā)布你的應(yīng)用發(fā)布為公開 Web 站點(diǎn)Dify還挺給力,用它創(chuàng)建AI應(yīng)用,幾分鐘就能弄出一個(gè)Web應(yīng)用,用戶直接用,多方便。 發(fā)布AI站點(diǎn) :
分享應(yīng)用 :
設(shè)置你的AI站點(diǎn) :
嵌入你的AI站點(diǎn) :
比如說,你把script代碼粘貼到官網(wǎng)的 <body> 里,這樣就能有個(gè)官網(wǎng)AI機(jī)器人了。 基于 APIs 開發(fā)Dify API基于“后端即服務(wù)”的理念,它讓所有應(yīng)用開發(fā)者都能輕松把大型語(yǔ)言模型的能力塞到前端應(yīng)用里。想象一下,不用搞復(fù)雜的后端架構(gòu),直接在前端搞定一切。 這Dify API的好處多著呢:
怎么用呢?簡(jiǎn)單得很:
想具體操作看看嗎?比如你是開發(fā)部的,要用公司的數(shù)據(jù)庫(kù)給終端用戶提供AI能力,但你又不想外人摸清你的數(shù)據(jù)和AI邏輯。這時(shí)候,API密鑰得后端調(diào)用,保證安全,防止被濫用。 搞文本生成型應(yīng)用?調(diào)用 completion-messages 接口,輸入點(diǎn)什么,文本結(jié)果就出來(lái)了。下面是個(gè)調(diào)用示例: curl --location --request POST 'https://api./v1/completion-messages' --header 'Authorization: Bearer ENTER-YOUR-SECRET-KEY' --header 'Content-Type: application/json' --data-raw '{
'inputs': {},
'response_mode': 'streaming',
'user': 'abc-123'
}' 或者是對(duì)話型應(yīng)用,采用一問一答模式,持續(xù)對(duì)話的那種。啟動(dòng)對(duì)話的API調(diào)用看這里:
下面提供Dify官方的 文檔介紹、相關(guān)資源、部署教程 等,進(jìn)一步支撐你的行動(dòng),以提升本文的幫助力。 快速開始Dify 是一個(gè)開源的 LLM 應(yīng)用開發(fā)平臺(tái)。其直觀的界面結(jié)合了 AI 工作流、RAG 管道、Agent、模型管理、可觀測(cè)性功能等,讓您可以快速?gòu)脑偷缴a(chǎn)。以下是其核心功能列表: 1. 工作流 : 在畫布上構(gòu)建和測(cè)試功能強(qiáng)大的 AI 工作流程,利用以下所有功能以及更多功能。 https://github.com/langgenius/dify/assets/13230914/356df23e-1604-483d-80a6-9517ece318aa 2. 全面的模型支持 : 與數(shù)百種專有/開源 LLMs 以及數(shù)十種推理提供商和自托管解決方案無(wú)縫集成,涵蓋 GPT、Mistral、Llama3 以及任何與 OpenAI API 兼容的模型。完整的支持模型提供商列表可在 此處 找到。 3. Prompt IDE : 用于制作提示、比較模型性能以及向基于聊天的應(yīng)用程序添加其他功能(如文本轉(zhuǎn)語(yǔ)音)的直觀界面。 4. RAG Pipeline : 廣泛的 RAG 功能,涵蓋從文檔攝入到檢索的所有內(nèi)容,支持從 PDF、PPT 和其他常見文檔格式中提取文本的開箱即用的支持。 5. Agent 智能體 : 您可以基于 LLM 函數(shù)調(diào)用或 ReAct 定義 Agent,并為 Agent 添加預(yù)構(gòu)建或自定義工具。Dify 為 AI Agent 提供了50多種內(nèi)置工具,如谷歌搜索、DELL·E、Stable Diffusion 和 WolframAlpha 等。 6. LLMOps : 隨時(shí)間監(jiān)視和分析應(yīng)用程序日志和性能。您可以根據(jù)生產(chǎn)數(shù)據(jù)和標(biāo)注持續(xù)改進(jìn)提示、數(shù)據(jù)集和模型。 7. 后端即服務(wù) : 所有 Dify 的功能都帶有相應(yīng)的 API,因此您可以輕松地將 Dify 集成到自己的業(yè)務(wù)邏輯中。 使用 Dify
安裝社區(qū)版系統(tǒng)要求在安裝 Dify 之前,請(qǐng)確保您的機(jī)器滿足以下最低系統(tǒng)要求:
快速啟動(dòng)啟動(dòng) Dify 服務(wù)器的最簡(jiǎn)單方法是運(yùn)行我們的 docker-compose.yml 文件。在運(yùn)行安裝命令之前,請(qǐng)確保您的機(jī)器上安裝了 Docker 和 Docker Compose : cd docker
docker compose up -d 運(yùn)行后,可以在瀏覽器上訪問 http://localhost/install 進(jìn)入 Dify 控制臺(tái)并開始初始化安裝操作。 使用 Helm Chart 部署使用 Helm Chart 版本,可以在 Kubernetes 上部署 Dify。
配置如果您需要自定義配置,請(qǐng)參考我們的 docker-compose.yml 文件中的注釋,并手動(dòng)設(shè)置環(huán)境配置。更改后,請(qǐng)?jiān)俅芜\(yùn)行 docker-compose up -d 。您可以在我們的 文檔 中查看所有環(huán)境變量的完整列表。 參考鏈接: [1] https://gi thub.com/langgenius/ dify/[2] h ttps://cloud./apps[3] https://docs./v/zh-hans/getting-started/ 知音難求,自我修煉亦艱 抓住前沿技術(shù)的機(jī)遇,與我們一起成為創(chuàng)新的超級(jí)個(gè)體 (把握AIGC時(shí)代的個(gè)人力量) — 完 — 點(diǎn)這里 關(guān)注我,記得標(biāo)星哦~ 一鍵三連「分享」、「點(diǎn)贊」和「在看」 科技前沿進(jìn)展日日相見 ~ |
|