跳至主要內容
LiteLLM 正在遷移至 Rust 閱讀最新進度更新。

v1.85.1 - Gemini 3.5 Flash 與可靠性修正

部署此版本​

docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.85.1

v1.85.1 是建構於 v1.85.0 的修補版發行。它新增對 Gemini 3.5 Flash 的 day-0 支援,並推出兩項可靠性修正:跨 pod 支出準確度與 Vertex AI 工具呼叫。

新模型 / 更新模型​

新模型支援(1 個新模型)​

提供者模型上下文視窗輸入($/百萬 tokens)輸出($/百萬 tokens)功能
Gemini / Vertex AIgemini/gemini-3.5-flash, vertex_ai/gemini-3.5-flash1M$1.50$9.00Reasoning、vision、audio input、PDF input、prompt caching、web search、function calling、response schema

功能​

錯誤修正​

  • Vertex AI
    • 在 Vertex Gemini 3.5+ 的工具回合中省略 function_call / function_response id,修正 HTTP 400 Unknown name "id" 錯誤。Google AI Studio(gemini 提供者)仍會在 Gemini 3.5+ 上轉送 id,以符合嚴格的工具呼叫比對 - PR #28324

支出追蹤、預算與速率限制​

  • 透過 SET NX 而非 INCRBYFLOAT 來初始化 Redis 支出計數器,以防止跨叢集節點重複初始化。在多節點部署中,這過去會在 Redis 快取失敗 / TTL 到期後,導致團隊 spend 飆升至約節點數的 Nx,進而觸發錯誤的「Budget Crossed」警示 - PR #27854

完整變更紀錄​

https://github.com/BerriAI/litellm/compare/v1.85.0...v1.85.1

LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →