跳至主要內容

v1.74.15-stable

部署此版本​

docker run litellm
docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:v1.74.15-stable

主要亮點​

  • 使用者代理活動追蹤 - 追蹤每個程式碼工具的使用量。
  • 提示管理 - 使用 Git-Ops 風格的提示管理與提示範本。
  • MCP 閘道：防護欄 - 支援在 MCP 伺服器上使用防護欄。
  • Google AI Studio Imagen4 - 支援在 Google AI Studio 上使用 Imagen4 模型。

使用者代理活動追蹤​


此版本新增對 Claude Code、Roo Code、Gemini CLI 等 AI 驅動程式碼工具使用量與成本追蹤的支援，透過 LiteLLM 即可進行。現在您可以追蹤每個程式碼工具的 LLM 成本、總使用 token 數，以及 DAU/WAU/MAU。

這對想要追蹤其如何協助開發者生產力的中央 AI 平台團隊非常有幫助。

閱讀更多

提示管理​


閱讀更多

新模型 / 更新模型​

新模型支援​

提供者模型上下文視窗輸入（$/百萬 tokens）輸出（$/百萬 tokens）Cost per Image
OpenRouteropenrouter/x-ai/grok-4256k$3$15N/A
Google AI Studiogemini/imagen-4.0-generate-001N/AN/AN/A$0.04
Google AI Studiogemini/imagen-4.0-ultra-generate-001N/AN/AN/A$0.06
Google AI Studiogemini/imagen-4.0-fast-generate-001N/AN/AN/A$0.02
Google AI Studiogemini/imagen-3.0-generate-002N/AN/AN/A$0.04
Google AI Studiogemini/imagen-3.0-generate-001N/AN/AN/A$0.04
Google AI Studiogemini/imagen-3.0-fast-generate-001N/AN/AN/A$0.02

功能​

錯誤修正​

LLM API 端點​

錯誤修正​

MCP 閘道​

功能​

  • 健康檢查改善
    • 新增 MCP 伺服器的健康檢查端點 - PR #13106
  • 防護欄整合
    • 新增請求前與請求中回呼初始化 - PR #13067
    • 將請求前與請求中回呼移至 ProxyLogging - PR #13109
    • MCP 請求前與請求中防護欄實作 - PR #13188
  • 協定與標頭支援
  • URL 與命名空間
    • 改善內部/Kubernetes URL 的 MCP 伺服器 URL 驗證 - PR #13099

錯誤修正​

  • UI
    • 修正 MCP 工具的捲動問題 - PR #13015
    • 修正 MCP 用戶端清單失敗問題 - PR #13114

閱讀更多

管理端點 / UI​

功能​

  • 使用分析

    • 新增使用者代理活動追蹤分頁 - PR #13146
    • 新增每位使用者的每日使用分析 - PR #13147
    • 預設使用圖表日期範圍設為最近 7 天 - PR #12917
    • 新增進階日期範圍選擇器元件 - PR #13141, PR #13221
    • 在選擇日期後於使用成本圖表上顯示載入器 - PR #13113

  • 模型

    • 在 UI 上新增 Voyage、Jinai、Deepinfra 和 VolcEngine 提供者 - PR #13131
    • 在 UI 上新增 Sagemaker - PR #13117
    • 在 /v1/models 和 /model_group/info 端點保留模型順序 - PR #13178

  • 金鑰管理

    • 在 UI 中正確解析用於金鑰生成的 JSON 選項 - PR #12989

  • 驗證

    • JWT 欄位
      • 為所有 JWT 欄位新增點號表示法支援 - PR #13013

錯誤修正​

  • 權限
    • 修正組織的物件權限 - PR #13142
    • 修正 team v2 清單安全性檢查 - PR #13094
  • 模型
    • 修正模型更新時的模型重新載入 - PR #13216
  • 路由器設定
    • 修正 UI 中備援模型的顯示問題 - PR #13191
    • 修正自訂值的萬用字元模型名稱處理 - PR #13116
    • 修正備援刪除功能 - PR #12606

記錄 / 防護欄整合​

功能​

錯誤修正​

  • API 金鑰記錄
    • 修正 API 金鑰被不當記錄 - PR #12978
  • MCP 花費追蹤
    • 為花費表中的 MCP 命名空間工具名稱設定預設值 - PR #12894

效能 / 負載平衡 / 可靠性改進​

功能​

  • 背景健康檢查
    • 允許為特定部署停用背景健康檢查 - PR #13186
  • 資料庫連線管理
    • 確保過時的 Prisma client 能正確中斷資料庫連線 - PR #13140
  • Jitter 改進
    • 修正 jitter 計算（應該是相加而不是相乘） - PR #12901

錯誤​

  • Anthropic 串流
    • Anthropic 串流回應一律使用 choice index=0 - PR #12666
  • 自訂驗證
  • OTEL 與受管理檔案
    • 修正 OTEL 整合使用受管理檔案的問題 - PR #13171

一般 Proxy 改進​

功能​

  • 資料庫遷移
    • 預設改為使用 use_prisma_migrate - PR #13117
    • 在驗證檢查時解析僅限團隊的模型 - PR #13117
  • 基礎架構
    • 放寬 MCP Python 版本限制 - PR #13102
    • 將 build_and_test 遷移到 CI/CD Postgres DB - PR #13166
  • Helm 圖表
    • 允許 Helm hooks 用於遷移工作 - PR #13174
    • 修正 Helm 遷移工作 schema 更新 - PR #12809

錯誤​

  • Docker
    • 移除 docker-compose 中過時的 version 屬性 - PR #13172
    • 為非 root Dockerfile 的 runtime 階段加入 openssl - PR #13168
  • 資料庫設定
    • 修正透過環境變數設定的 DB config - PR #13111
  • 記錄
  • Token 計數
    • 在 token counter 中忽略像 prefix 這類不支援的 keys - PR #11954

新貢獻者​

完整變更記錄​

🚅
LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →