AI

Bisheng:開源 LLM 應用開發平台

Bisheng 是一個開源 LLM 應用平台,用於建構企業 RAG 系統,具備文件管理、知識庫和多模型支援。

Keeping this site alive takes effort — your support means everything.
無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分! 無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分!
Bisheng:開源 LLM 應用開發平台

企業組織一直是 LLM 技術最快的採用者之一,但它們面臨獨特的挑戰:嚴格的安全要求、複雜的文件格式、合規義務以及對可稽核性的需求。Bisheng 以一個專為企業 RAG 部署打造的開源平台來應對這些挑戰。由 dataelement 創造,Bisheng 已成為需要建構生產級 LLM 應用而又不鎖定於專有平台的組織的主要選擇之一。

Bisheng 涵蓋了 LLM 應用開發的完整生命週期:文件攝入和解析、知識庫建構、工作流程設計、模型管理、應用部署和持續監控。它同時為非技術使用者提供視覺化介面和為開發者提供程式化 API,使其可在整個組織中存取。

該平台在中國企業市場特別成功,其中文語言處理支援、本地模型部署和國內雲端基礎設施使其成為具有特定區域需求的組織的實用選擇。它也因其全面的功能集和開源授權而獲得了國際採用。


Bisheng 的文件處理管道如何運作?

文件處理管道將原始文件轉換為可搜尋的知識庫條目。

graph TD
    A[上傳文件] --> B[格式檢測]
    B --> C[PDF 解析器]
    B --> D[Office 解析器]
    B --> E[圖片 OCR]
    B --> F[網頁爬取器]
    C --> G[版面分析]
    D --> G
    E --> G
    F --> G
    G --> H[表格提取]
    G --> I[頁首/頁尾處理]
    G --> J[頁碼過濾]
    H --> K[智慧分塊]
    I --> K
    J --> K
    K --> L[嵌入生成]
    L --> M[(向量儲存)]
    M --> N[知識庫準備就緒]

智慧分塊階段尤其精密,它使用版面分析來保留文件結構,而非按字元數盲目分割。這產生了保持邏輯連貫性和段落邊界的區塊。


Bisheng 提供哪些應用範本?

Bisheng 附帶針對常見用例的預建應用範本。

應用類型範本組件典型使用者
文件問答PDF 解析器、向量搜尋、LLM 提示知識工作者、研究員
客服系統意圖分類、常見問題匹配、升級支援團隊
報告生成資料來源、範本引擎、LLM 寫手分析師、管理層
程式碼助手程式碼解析器、文件搜尋、程式碼生成器工程團隊
資料提取表格解析器、架構對應、結構化輸出營運、合規
會議助理音訊轉寫、摘要、待辦事項團隊、專案經理

每個範本提供一個起始配置,可透過視覺化工作流程建構器進行自訂。這大大縮短了從概念到可運作應用的時間。


Bisheng 支援哪些部署架構?

Bisheng 為不同的組織需求提供靈活的部署選項。

部署模式基礎設施功能最佳適用
一體化單一伺服器所有功能捆綁小型團隊、評估
分離服務多伺服器可擴展組件中型組織
KubernetesK8s 叢集自動擴展、高可用性大型企業
邊緣部署本地硬體完全離線、氣隙環境受監管行業
混合雲本地與雲端混合靈活的資源分配成長型組織

分離服務架構是最常見的生產部署方式,其中文件解析器、向量儲存、LLM 推理和網頁伺服器等組件作為獨立服務運行。這允許對最消耗資源的組件進行獨立擴展。


常見問題

什麼是 Bisheng? Bisheng 是一個開源的 LLM 應用開發平台,專注於企業 RAG(檢索增強生成)系統。它提供完整的解決方案,包括文件管理、知識庫建立、視覺化工作流程設計、多模型支援和部署基礎設施。

Bisheng 為何適合企業使用? Bisheng 提供企業級功能,包括基於角色的存取控制、稽核日誌記錄、高可用性部署、資料隔離、SSO 整合和全面的 API 支援。它專為滿足企業環境中常見的安全性和合規性要求而設計。

視覺化工作流程建構器如何運作? 視覺化工作流程建構器提供拖放介面,用於建構 LLM 應用管道。使用者可以連接文件解析器、嵌入模型、向量資料庫、提示範本和 LLM 推理節點等組件,無需編寫程式碼。進階使用者可以使用自訂 Python 節點擴展工作流程。

支援哪些文件格式? Bisheng 支援 PDF、Word、Excel、PowerPoint、Markdown、HTML、純文字、圖片(含 OCR)和掃描文件。文件處理管道包括格式特定的解析器、版面分析、表格提取和智慧分塊策略。

Bisheng 可以使用本地模型嗎? 可以,Bisheng 支援 LLM 和嵌入模型的本地部署。它與 vLLM、TGI 和 Ollama 等模型服務框架整合。這使得對於具有嚴格資料駐留要求的環境可以完全離線運作。


延伸閱讀

TAG