Tags

LLM 閘道

LMRouter:用於多供應商模型存取的開源 AI API 路由器
AI

LMRouter:用於多供應商模型存取的開源 AI API 路由器

AI 語言模型供應商的爆炸性成長為開發者帶來了矛盾的處境。一方面,多樣性非凡——OpenAI、Anthropic、Google、DeepSeek、Mistral、Groq 等數十家供應商每個月都在推進技術前沿。另一方面,每家供應商都有自己的 API 格式、認證機制、定價模式和速率限制。在單 …

LiteLLM:支援 100+ LLM 供應商的開源 AI 閘道
AI

LiteLLM:支援 100+ LLM 供應商的開源 AI 閘道

大型語言模型供應商的快速增長為開發者帶來了新的挑戰:每個供應商都有自己的 API 格式、認證方法、定價模型和功能集。與多個供應商整合——甚至是在它們之間切換——傳統上需要重寫大量的整合程式碼。LiteLLM 通過提供一個統一的、OpenAI 相容的介面來解決這個問題,該介面可與超過 100 …

TAG