透過 LiteLLM 降低 Claude Code 成本的 5 種方式
Claude Code 是現代工程組織中最重度消耗輸入 token 的工具之一。冗長的工具迴圈、龐大的檔案讀取，以及包含數百個工具的 MCP 目錄，會讓每個請求都推到 context window 的頂端，而帳單也隨之攀升。
如果 Claude Code 已經透過 ANTHROPIC_BASE_URL 指向 LiteLLM proxy，平台管理員可以透過五個槓桿來降低成本。這些方法都不需要在用戶端做任何變更。
1 篇文章 含有標籤「prompt-caching」
檢視所有標籤