Higress:阿里巴巴基於 Istio 和 Envoy 的雲原生 AI 閘道
隨著 AI 應用從原型走向生產,管理 LLM API 流量的基礎設施層變得至關重要。組織需要將請求路由到正確的模型、以 Token 級別的速率限制控制成本、智慧地快取回應,以及跨團隊和應用監控使用情況。Higress 作為一個基於經過實戰考驗的 Istio 和 Envoy 基礎建置的雲原生 …
隨著 AI 應用從原型走向生產,管理 LLM API 流量的基礎設施層變得至關重要。組織需要將請求路由到正確的模型、以 Token 級別的速率限制控制成本、智慧地快取回應,以及跨團隊和應用監控使用情況。Higress 作為一個基於經過實戰考驗的 Istio 和 Envoy 基礎建置的雲原生 …
建立生產級後端服務需要大量投入於樣板程式碼:設定資料庫架構、建立 CRUD 端點、實作認證、配置驗證和撰寫部署配置。Amplication 透過從視覺介面自動生成完整、生產級後端服務來消除這些樣板工作,讓開發者能專注於商業邏輯而非基礎架構。
AI 代理需要執行環境——用來執行程式碼、瀏覽網頁、編輯檔案和與工具互動的地方。為每個代理平台從頭建立這些環境既繁瑣又容易出錯。Agent Sandbox 透過提供一個完整、預先配置的 Docker 沙箱解決了這個問題,將瀏覽器、Shell、檔案系統、MCP 伺服器和 VSCode …
Docker 容器解決了「在我機器上能跑」的問題,但卻引入了一個新問題:「在安裝了 Docker 的機器上能跑」。容器需要 Docker daemon、containerd,或至少需要一個容器執行環境。對於分發命令列工具、桌面應用程式或部署工件來說,這種依賴是一項負擔。Dockerc 採用 …
管理代理伺服器基礎設施傳統上一直是命令列的事情。手動編輯 JSON 設定檔、重新啟動服務、透過終端日誌監控流量——這可行,但遠非使用者友善。3X-UI 透過提供一個功能完整的網頁介面來管理 Xray-core 代理伺服器,改變了這一點。
如果您在多個雲端硬碟、FTP 伺服器和 S3 儲存桶之間管理檔案,您就會知道在不同介面之間切換、記住不同 URL 以及調和不同權限模型的痛苦。AList 用一個直接的方案解決了這個問題:一個統管一切的網頁介面。 AList 用 Go(Gin 後端)編寫,搭配現代的 Solidjs 前端,已 …