跳至主要內容
LiteLLM 正在遷移至 Rust 閱讀最新進度更新。

v1.84.1 - Gemini 3.5 Flash 與可靠性修正

部署此版本​

docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.84.1

v1.84.1 是建立在 v1.84.0 之上的修補版本。它新增了對 Gemini 3.5 Flash 的 day-0 支援,並提供兩項可靠性修正:跨 Pod 支出準確性與 Vertex AI 工具呼叫。

新模型 / 已更新模型​

新模型支援(1 個新模型)​

提供者模型上下文視窗輸入($/100 萬 tokens)輸出($/100 萬 tokens)功能
Gemini / Vertex AIgemini/gemini-3.5-flash, vertex_ai/gemini-3.5-flash1M$1.50$9.00推理、視覺、音訊輸入、PDF 輸入、prompt caching、web search、function calling、response schema

功能​

錯誤修正​

  • Vertex AI
    • 在 Vertex Gemini 3.5+ 工具回合中省略 function_call / function_response id,修正 HTTP 400 Unknown name "id" 錯誤。Google AI Studio(gemini 提供者)在 Gemini 3.5+ 上仍會轉送 id,以便嚴格的工具呼叫比對 - PR #28324

支出追蹤、預算與速率限制​

  • 透過 SET NX 而不是 INCRBYFLOAT 來初始化 Redis 支出計數器,以防止跨叢集重複初始化。在多叢集部署中,這過去會導致團隊 spend 在 Redis 快取遺失 / TTL 到期後跳升到約為 pod 數量的 Nx,進而觸發錯誤的「Budget Crossed」警示 - PR #27854

完整更新紀錄​

https://github.com/BerriAI/litellm/compare/v1.84.0...v1.84.1

LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →