跳至主要內容
LiteLLM 正在遷移至 Rust 閱讀最新進度更新。

v1.91.3 - Responses 防護欄涵蓋範圍與 OTel 例外事件

部署此版本​

docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.91.3

v1.91.3 是在 v1.91.2 之上的修補版發布。它將兩項變更回溯移植到 1.91.x 分支。第一項恢復了 Responses API 上的防護欄涵蓋範圍：共用內容 helper 現在會走訪 Responses item 分類，因此文字防護欄再次能在 /v1/responses 上看到使用者與工具輸出的文字，而不是掃描空白負載。第二項會將失敗的 LLM 呼叫記錄為 GenAI 標準的 gen_ai.client.operation.exception 記錄事件，並以 WARN 嚴重性帶上例外類型、訊息與堆疊追蹤，讓可觀測性後端能看見完整的失敗資訊。

變更內容​

  • fix(guardrails): 在共用內容輔助函式中遍歷 Responses-API 文字分類 - PR #32542
  • feat(otel): 在失敗的 LLM 請求上發出 gen_ai.client.operation.exception 事件 - PR #32655

完整變更記錄​

https://github.com/BerriAI/litellm/compare/v1.91.2...v1.91.3

LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →