AI 語言模型供應商的爆炸性成長為開發者帶來了矛盾的處境。一方面,多樣性非凡——OpenAI、Anthropic、Google、DeepSeek、Mistral、Groq 等數十家供應商每個月都在推進技術前沿。另一方面,每家供應商都有自己的 API 格式、認證機制、定價模式和速率限制。在單一應用程式中管理多個供應商整合意味著需要為每個供應商編寫和維護適配器、處理容錯轉移邏輯,並在分散的計費系統之間追蹤成本。
LMRouter 透過為所有主要語言模型供應商提供單一統一的 API 閘道來解決此問題。以 TypeScript 建置並以 MIT 授權發布,LMRouter 充當輕量代理,位於你的應用程式與各種 AI 供應商 API 之間。你一次設定自己的 API 金鑰,LMRouter 就會呈現一個單一相容 OpenAI 的端點,根據模型名稱將請求路由到適當的供應商。
LMRouter 與 OpenRouter 等受管服務之間的關鍵區別在於 BYOK——自帶金鑰。LMRouter 不對 API 存取收費,也不在供應商定價上增加利潤。你設定自己的金鑰,直接支付供應商費用,而 LMRouter 處理路由、容錯轉移和成本追蹤。對於需要在自訂整合程式碼的開銷下控制其 AI 基礎設施的團隊來說,LMRouter 是一個優雅的解決方案。
LMRouter 支援哪些供應商?
| 供應商 | 模型 | 模態 |
|---|---|---|
| OpenAI | GPT-4o, GPT-4o-mini, o3, o4-mini | 文字, 圖片, 音訊 |
| Anthropic | Claude Opus 4, Claude Sonnet 4, Claude Haiku 3.5 | 文字, 圖片 |
| Gemini 2.5 Pro, Gemini 2.5 Flash | 文字, 圖片, 音訊, 影片 | |
| Groq | Llama 3, Mixtral, Gemma | 文字 |
| DeepSeek | DeepSeek V3, DeepSeek R1 | 文字 |
| Mistral | Mistral Large, Mistral Small | 文字, 圖片 |
| Together AI | Llama 3, DeepSeek, Qwen | 文字 |
| Fireworks AI | Llama 3, DeepSeek, Qwen | 文字 |
| Cohere | Command R+, Command R | 文字 |
| 自訂 | 任何相容 OpenAI 的端點 | 可設定 |
LMRouter 如何運作?
flowchart LR
A[你的應用程式] --> B{LMRouter API 閘道}
B --> C[OpenAI 金鑰]
B --> D[Anthropic 金鑰]
B --> E[Google 金鑰]
B --> F[DeepSeek 金鑰]
B --> G[10+ 供應商...]
H[設定檔\nAPI 金鑰 + 路由規則] --> B主要功能
| 功能 | 描述 | 優勢 |
|---|---|---|
| 統一 API | 單一相容 OpenAI 的端點 | 可直接替代現有 OpenAI 用戶端 |
| 多模態路由 | 路由文字、圖片、音訊、影片請求 | 支援所有主要模型功能 |
| 成本追蹤 | 每個模型、每個供應商的成本記錄 | 預算管理和稽核軌跡 |
| 速率限制 | 可設定的每供應商限制 | 防止達到供應商速率限制 |
| 供應商容錯轉移 | 錯誤時自動回退 | 提高應用程式可靠性 |
| 金鑰輪換 | 每個供應商多個金鑰 | 分散負載和處理速率限制 |
| 自訂路由規則 | 模型名稱映射和別名 | 靈活的部署設定 |
與其他方案比較
| 功能 | LMRouter | OpenRouter | 自訂整合 |
|---|---|---|---|
| 定價 | 免費(自託管) | 在供應商定價上增加利潤 | 開發成本 |
| 部署 | 自託管(Docker) | 受管雲端 | 自訂程式碼 |
| 隱私 | 完全(資料留在你的基礎設施) | 透過其伺服器路由 | 完全(你掌控一切) |
| 供應商靈活性 | 10+ 供應商 | 200+ 模型 | 無限(你寫程式碼) |
| 設定時間 | 數分鐘 | 數分鐘 | 數天到數週 |
| BYOK 支援 | 是(原生) | 可選 | 不適用 |
| MIT 授權 | 是 | 否 | 不一定 |
部署方式
# Docker(推薦用於生產環境)
docker run -d \
-p 8080:8080 \
-v ./config.yaml:/app/config.yaml \
ghcr.io/lmrouter/lmrouter:latest
# Node.js(用於開發)
git clone https://github.com/LMRouter/lmrouter.git
cd lmrouter
npm install
npm run dev
常見問題
什麼是 LMRouter? 開源 AI API 路由器,提供單一統一 API 端點和金鑰,可存取 10+ 家供應商的語言模型,支援多模態。
支援哪些供應商? OpenAI、Anthropic、Google、Groq、DeepSeek、Mistral、Cohere、Together AI、Fireworks AI 及自訂端點。
什麼是 BYOK? 自帶金鑰——使用者設定自己的 API 金鑰,LMRouter 不收取 API 使用費,只路由請求。你直接支付供應商價格。
如何部署? Docker 容器(推薦)、Node.js 直接執行或雲端平台。包括速率限制、成本追蹤和容錯轉移設定。
授權條款? MIT 授權,可免費使用、修改和散佈。
無程式碼也能輕鬆打造專業LINE官方帳號!一鍵導入模板,讓AI助你行銷加分!