AI

Dify:開源 LLM 應用程式開發平台

Dify 是一個開源 LLM 應用程式開發平台,具有視覺化編排、RAG 流程、代理能力和多模型支援,用於生產級 AI 應用程式。

Keeping this site alive takes effort — your support means everything.
無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分! 無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分!
Dify:開源 LLM 應用程式開發平台

構建生產級 AI 應用程式需要的遠不止調用 LLM API。你需要文件處理流程、向量資料庫、提示管理、對話記憶、使用者認證、監控以及根據實際使用情況迭代應用程式行為的方法。Dify 在一個單一、整合的開源平台中提供了所有這些。

Dify 是一個 LLM 應用程式開發平台,涵蓋了 AI 應用程式開發的完整生命週期:從視覺化工作流程設計和提示工程到部署和持續監控。它旨在成為 LLM 應用程式的完整作業系統,取代拼湊多個工具和服務的需求。

該平台的力量在於其整合了通常分散在不同服務中的功能。Dify 中的 RAG 應用程式使用內建的文件攝取流程、向量儲存、檢索系統和 LLM 編排——全部透過單一介面配置,具有一致的日誌記錄和監控。


Dify 的架構如何支援應用程式開發?

Dify 提供一個整合平台,包含 LLM 應用程式開發所需的所有組件。

graph TD
    A[使用者介面\nWeb App / API / 嵌入] --> B[Dify 應用程式層]
    B --> C[工作流程編排\n視覺化拖放]
    B --> D[RAG 流程\n文件處理 + 檢索]
    B --> E[代理系統\n工具 + 規劃]
    B --> F[對話管理\n記憶 + 上下文]
    C --> G[LLM 提供者\nOpenAI, Claude, Gemini, 本地]
    D --> H[向量儲存\nWeaviate / Qdrant / Milvus]
    E --> I[工具整合\nAPI, 知識, 程式碼]
    B --> J[生產功能\n監控, 日誌記錄, 註釋]

每個組件可以獨立使用或組合用於更複雜的應用程式。


可以使用 Dify 構建哪些應用程式類型?

Dify 支援四種主要的應用程式模板,每種針對不同的使用案例進行最佳化。

應用程式類型最適合關鍵配置
聊天機器人對話式 AI、客戶支援系統提示、記憶、上下文視窗
文字生成器內容創作、摘要、翻譯提示模板、輸出格式、變數
代理自主任務完成、研究工具、規劃策略、最大迭代次數
RAG 應用程式文件問答、知識庫文件來源、檢索設定、引用風格

每種類型都可以使用 Dify 的工作流程編輯器進一步自訂,以實現複雜的多步驟邏輯。


Dify 的 RAG 流程如何管理文件?

Dify 的內建 RAG 流程處理從文件到答案的完整生命週期。

階段Dify 功能配置選項
攝取文件上傳、網頁爬取、API批次上傳、排程爬取
處理文字提取、清理、分塊區塊大小、重疊、清理規則
嵌入模型選擇、批次嵌入OpenAI、Cohere、本地模型
儲存向量資料庫整合Weaviate、Qdrant、Milvus、PGVector
檢索搜尋和重新排序Top-K、相似性閾值、混合搜尋
生成上下文組裝、答案格式化提示模板、引用格式

該流程支援增量更新,這意味著可以添加或刪除文件而無需完整重新索引。


Dify 提供哪些生產功能?

Dify 包含對已部署 AI 應用程式至關重要的生產級功能。

功能說明
API 管理REST API,附金鑰認證和速率限制
使用監控Token 計數、請求量、延遲追蹤
對話日誌完整的對話歷史,支援搜尋和匯出
AI 回饋讚/倒讚收集,附註釋工具
A/B 測試比較提示版本和模型配置
存取控制使用者角色、公開/私人應用程式、團隊管理

這些功能將 Dify 從開發工具轉變為在生產中運行 AI 應用程式的完整平台。


如何部署 Dify?

Dify 可以根據基礎設施需求以多種方式部署。

部署方法設定最適合
Docker Composedocker compose up -d自託管、單伺服器
KubernetesHelm chart大規模、多節點
雲端(Dify Premium)一鍵託管、無基礎設施
原始碼手動設定自訂修改

Docker Compose 部署是最常見的方法,提供了自託管部署的直接路徑。


常見問題

什麼是 Dify? 開源 LLM 應用程式開發平台,具有視覺化編排、RAG 流程和代理能力。

可以構建哪些應用程式? 聊天機器人、文字生成器、代理和 RAG 應用程式。

RAG 流程如何運作? 完整的內建流程:攝取、處理、嵌入、儲存、檢索、生成。

支援多個 LLM 提供者嗎? 是的,OpenAI、Anthropic、Google、Meta、Mistral 等,可混合使用。

可以部署到生產環境嗎? 是的,支援 iframe、分享連結和 REST API 整合,附生產功能。


延伸閱讀

TAG