AI

LMRouter:用於多供應商模型存取的開源 AI API 路由器

LMRouter 是開源 AI API 路由器,提供單一 API 金鑰即可存取 OpenAI、Anthropic、Google 等 10+ 供應商,支援多模態。

Keeping this site alive takes effort — your support means everything.
無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分! 無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分!
LMRouter:用於多供應商模型存取的開源 AI API 路由器

AI 語言模型供應商的爆炸性成長為開發者帶來了矛盾的處境。一方面,多樣性非凡——OpenAI、Anthropic、Google、DeepSeek、Mistral、Groq 等數十家供應商每個月都在推進技術前沿。另一方面,每家供應商都有自己的 API 格式、認證機制、定價模式和速率限制。在單一應用程式中管理多個供應商整合意味著需要為每個供應商編寫和維護適配器、處理容錯轉移邏輯,並在分散的計費系統之間追蹤成本。

LMRouter 透過為所有主要語言模型供應商提供單一統一的 API 閘道來解決此問題。以 TypeScript 建置並以 MIT 授權發布,LMRouter 充當輕量代理,位於你的應用程式與各種 AI 供應商 API 之間。你一次設定自己的 API 金鑰,LMRouter 就會呈現一個單一相容 OpenAI 的端點,根據模型名稱將請求路由到適當的供應商。

LMRouter 與 OpenRouter 等受管服務之間的關鍵區別在於 BYOK——自帶金鑰。LMRouter 不對 API 存取收費,也不在供應商定價上增加利潤。你設定自己的金鑰,直接支付供應商費用,而 LMRouter 處理路由、容錯轉移和成本追蹤。對於需要在自訂整合程式碼的開銷下控制其 AI 基礎設施的團隊來說,LMRouter 是一個優雅的解決方案。

LMRouter 支援哪些供應商?

供應商模型模態
OpenAIGPT-4o, GPT-4o-mini, o3, o4-mini文字, 圖片, 音訊
AnthropicClaude Opus 4, Claude Sonnet 4, Claude Haiku 3.5文字, 圖片
GoogleGemini 2.5 Pro, Gemini 2.5 Flash文字, 圖片, 音訊, 影片
GroqLlama 3, Mixtral, Gemma文字
DeepSeekDeepSeek V3, DeepSeek R1文字
MistralMistral Large, Mistral Small文字, 圖片
Together AILlama 3, DeepSeek, Qwen文字
Fireworks AILlama 3, DeepSeek, Qwen文字
CohereCommand R+, Command R文字
自訂任何相容 OpenAI 的端點可設定

LMRouter 如何運作?

主要功能

功能描述優勢
統一 API單一相容 OpenAI 的端點可直接替代現有 OpenAI 用戶端
多模態路由路由文字、圖片、音訊、影片請求支援所有主要模型功能
成本追蹤每個模型、每個供應商的成本記錄預算管理和稽核軌跡
速率限制可設定的每供應商限制防止達到供應商速率限制
供應商容錯轉移錯誤時自動回退提高應用程式可靠性
金鑰輪換每個供應商多個金鑰分散負載和處理速率限制
自訂路由規則模型名稱映射和別名靈活的部署設定

與其他方案比較

功能LMRouterOpenRouter自訂整合
定價免費(自託管)在供應商定價上增加利潤開發成本
部署自託管(Docker)受管雲端自訂程式碼
隱私完全(資料留在你的基礎設施)透過其伺服器路由完全(你掌控一切)
供應商靈活性10+ 供應商200+ 模型無限(你寫程式碼)
設定時間數分鐘數分鐘數天到數週
BYOK 支援是(原生)可選不適用
MIT 授權不一定

部署方式

# Docker(推薦用於生產環境)
docker run -d \
  -p 8080:8080 \
  -v ./config.yaml:/app/config.yaml \
  ghcr.io/lmrouter/lmrouter:latest

# Node.js(用於開發)
git clone https://github.com/LMRouter/lmrouter.git
cd lmrouter
npm install
npm run dev

常見問題

什麼是 LMRouter? 開源 AI API 路由器,提供單一統一 API 端點和金鑰,可存取 10+ 家供應商的語言模型,支援多模態。

支援哪些供應商? OpenAI、Anthropic、Google、Groq、DeepSeek、Mistral、Cohere、Together AI、Fireworks AI 及自訂端點。

什麼是 BYOK? 自帶金鑰——使用者設定自己的 API 金鑰,LMRouter 不收取 API 使用費,只路由請求。你直接支付供應商價格。

如何部署? Docker 容器(推薦)、Node.js 直接執行或雲端平台。包括速率限制、成本追蹤和容錯轉移設定。

授權條款? MIT 授權,可免費使用、修改和散佈。

延伸閱讀

TAG