跳至主要內容

v1.91.3 - Responses 防護欄涵蓋範圍與 OTel 例外事件

部署此版本

docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.91.3

v1.91.3v1.91.2 之上的修補版本。它將兩項變更回補到 1.91.x 線。第一項恢復了 Responses API 上的防護欄涵蓋範圍:共用內容輔助函式現在會遍歷 Responses item 分類,因此文字防護欄再次能在 /v1/responses 上看到使用者與工具輸出文字,而不是掃描空白負載。第二項會將失敗的 LLM 請求記錄為 GenAI 標準的 gen_ai.client.operation.exception 記錄事件,並以 WARN 嚴重性帶上例外類型、訊息與堆疊追蹤,讓可觀測性後端能看到完整的失敗資訊。

變更內容

  • fix(guardrails): 在共用內容輔助函式中遍歷 Responses-API 文字分類 - PR #32542
  • feat(otel): 在失敗的 LLM 請求上發出 gen_ai.client.operation.exception 事件 - PR #32655

完整變更記錄

https://github.com/BerriAI/litellm/compare/v1.91.2...v1.91.3

🚅
LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →