4 篇文章 含有標籤「mcp」

一位工程師為新專案索取一組 API 金鑰。您需要為它選擇模型、設定預算，並將其指派給某個團隊。隨著使用量成長，您需要檢查支出並調整那些限制。

LiteAdmin MCP 讓您的代理程式透過閘道的管理 API 處理這些工作。將它連接到一個 MCP 用戶端或自訂代理程式。我們也用同一個連接器建立了 LiteAdmin——我們的 Slack 管理代理程式。

共享代理程式可以保留個別身分、存取與支出控制。

當財務代理程式服務多個業務單位時，平台團隊需要一致的方法來識別每個請求的發起者、套用正確的模型與工具權限，並歸屬支出。LiteLLM 讓這些脈絡在共享代理程式工作流程中保持可用，因此每個業務單位都能在各自的存取與預算政策下運作。

LiteLLM 為此工作流程提供一個統一的控制平面，涵蓋 Agent Gateway、Model Gateway 與 MCP Gateway。團隊可以共享相同的代理程式基礎架構，同時讓存取權、憑證、支出與稽核資料都繫結到正確的呼叫者。

在過去兩週，我們處理了兩個重大的產品品質問題：

1. MCP Gateway 沒有單一的憑證解析類別。
2. 透傳 API 的記憶體消耗過高。

在同一期間，我們總共推出了 134 個錯誤修正。這篇文章先介紹這兩個重大變更，接著說明其餘的 AI 工程與可靠性工作、完整細目，以及我們接下來要做什麼。

Claude Code 是現代工程組織中最重度消耗輸入 token 的工具之一。冗長的工具迴圈、龐大的檔案讀取，以及包含數百個工具的 MCP 目錄，會讓每個請求都推到 context window 的頂端，而帳單也隨之攀升。

如果 Claude Code 已經透過 ANTHROPIC_BASE_URL 指向 LiteLLM proxy，平台管理員可以透過五個槓桿來降低成本。這些方法都不需要在用戶端做任何變更。