LiteLLM 正在遷移至 Rust 閱讀最新進度更新。
v1.99.3 - Claude Code 自動模式與 TypeSafe Jev 透傳
部署此版本
- Docker
- Pip
docker run \
-e LITELLM_MASTER_KEY=sk-<paste-a-long-random-key> \
-e DATABASE_URL=postgresql://<user>:<password>@<host>:5432/<dbname> \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.99.3
pip install litellm==1.99.3
此版本已發布為 ghcr.io/berriai/litellm:v1.99.3。請參閱 GitHub release 以及完整的 releases page
v1.99.3 是在 v1.99.2 之上的修補版本。它透過閘道帶來 Claude Code 自動模式,並新增 TypeSafe Jev 透傳。沒有新的資料庫遷移或破壞性變更。v1.99.3 標記指向 16923e0
Claude Code 自動模式可透過閘道運作
Claude Code 自動模式會在 safeguards 上傳送 /v1/messages 欄位,並在回覆中預期 safeguard_results。較早的版本會捨棄該欄位,因此 /status 會顯示 Auto mode server: Disabled,而且每次工具呼叫都會退回到用戶端端的分類器
現在,proxy 會在原生 Anthropic /v1/messages 上原封不動地轉送 safeguards 與 anthropic-beta,並將 safeguards 加上 dangerous-tool-use-2026-09-03 beta 轉送到 Bedrock Invoke 與 Vertex AI
TypeSafe Jev 透傳
設定 TYPESAFE_API_KEY 後,proxy 會將 /typesafe/* 請求轉送至 TypeSafe、記錄它們,並追蹤其花費。會為 typesafe/jev-latest、typesafe/jev-preview 和 typesafe/jev-1.13.0 新增定價項目
有哪些變更
- fix(anthropic): 在原生 /v1/messages 上原封不動地轉送 safeguards 與 anthropic-beta -
9f6a6f8 - fix(anthropic): 在 /v1/messages 上將 Claude Code safeguards 與 dangerous-tool-use beta 轉送到 Bedrock Invoke 和 Vertex -
a631bf7 - feat(typesafe): 新增具有記錄與成本追蹤的 TypeSafe Jev 透傳 -
7d1db43
完整變更記錄
https://github.com/BerriAI/litellm/compare/v1.99.1...v1.99.3