Bisheng：開源 LLM 應用開發平台

企業組織一直是 LLM 技術最快的採用者之一，但它們面臨獨特的挑戰：嚴格的安全要求、複雜的文件格式、合規義務以及對可稽核性的需求。Bisheng 以一個專為企業 RAG 部署打造的開源平台來應對這些挑戰。由 dataelement 創造，Bisheng 已成為需要建構生產級 LLM 應用而又不鎖定於專有平台的組織的主要選擇之一。

Bisheng 涵蓋了 LLM 應用開發的完整生命週期：文件攝入和解析、知識庫建構、工作流程設計、模型管理、應用部署和持續監控。它同時為非技術使用者提供視覺化介面和為開發者提供程式化 API，使其可在整個組織中存取。

該平台在中國企業市場特別成功，其中文語言處理支援、本地模型部署和國內雲端基礎設施使其成為具有特定區域需求的組織的實用選擇。它也因其全面的功能集和開源授權而獲得了國際採用。

Bisheng 的文件處理管道如何運作？

文件處理管道將原始文件轉換為可搜尋的知識庫條目。

graph TD
    A[上傳文件] --> B[格式檢測]
    B --> C[PDF 解析器]
    B --> D[Office 解析器]
    B --> E[圖片 OCR]
    B --> F[網頁爬取器]
    C --> G[版面分析]
    D --> G
    E --> G
    F --> G
    G --> H[表格提取]
    G --> I[頁首/頁尾處理]
    G --> J[頁碼過濾]
    H --> K[智慧分塊]
    I --> K
    J --> K
    K --> L[嵌入生成]
    L --> M[(向量儲存)]
    M --> N[知識庫準備就緒]

智慧分塊階段尤其精密，它使用版面分析來保留文件結構，而非按字元數盲目分割。這產生了保持邏輯連貫性和段落邊界的區塊。

Bisheng 提供哪些應用範本？

Bisheng 附帶針對常見用例的預建應用範本。

每個範本提供一個起始配置，可透過視覺化工作流程建構器進行自訂。這大大縮短了從概念到可運作應用的時間。

Bisheng 支援哪些部署架構？

Bisheng 為不同的組織需求提供靈活的部署選項。

分離服務架構是最常見的生產部署方式，其中文件解析器、向量儲存、LLM 推理和網頁伺服器等組件作為獨立服務運行。這允許對最消耗資源的組件進行獨立擴展。

常見問題

什麼是 Bisheng？ Bisheng 是一個開源的 LLM 應用開發平台，專注於企業 RAG（檢索增強生成）系統。它提供完整的解決方案，包括文件管理、知識庫建立、視覺化工作流程設計、多模型支援和部署基礎設施。

Bisheng 為何適合企業使用？ Bisheng 提供企業級功能，包括基於角色的存取控制、稽核日誌記錄、高可用性部署、資料隔離、SSO 整合和全面的 API 支援。它專為滿足企業環境中常見的安全性和合規性要求而設計。

視覺化工作流程建構器如何運作？ 視覺化工作流程建構器提供拖放介面，用於建構 LLM 應用管道。使用者可以連接文件解析器、嵌入模型、向量資料庫、提示範本和 LLM 推理節點等組件，無需編寫程式碼。進階使用者可以使用自訂 Python 節點擴展工作流程。

支援哪些文件格式？ Bisheng 支援 PDF、Word、Excel、PowerPoint、Markdown、HTML、純文字、圖片（含 OCR）和掃描文件。文件處理管道包括格式特定的解析器、版面分析、表格提取和智慧分塊策略。

Bisheng 可以使用本地模型嗎？ 可以，Bisheng 支援 LLM 和嵌入模型的本地部署。它與 vLLM、TGI 和 Ollama 等模型服務框架整合。這使得對於具有嚴格資料駐留要求的環境可以完全離線運作。

延伸閱讀

• Bisheng GitHub 倉庫 – 原始碼、文件和部署指南
• Bisheng 官方網站 – 產品概述、企業功能和定價
• LangChain 框架 – Bisheng RAG 管道使用的底層編排框架