v1.91.3 - Responses 防護欄涵蓋範圍與 OTel 例外事件
部署此版本
- Docker
- Pip
docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.91.3
pip install litellm==1.91.3
v1.91.3 是 v1.91.2 之上的修補版本。它將兩項變更回補到 1.91.x 線。第一項恢復了 Responses API 上的防護欄涵蓋範圍:共用內容輔助函式現在會遍歷 Responses item 分類,因此文字防護欄再次能在 /v1/responses 上看到使用者與工具輸出文字,而不是掃描空白負載。第二項會將失敗的 LLM 請求記錄為 GenAI 標準的 gen_ai.client.operation.exception 記錄事件,並以 WARN 嚴重性帶上例外類型、訊息與堆疊追蹤,讓可觀測性後端能看到完整的失敗資訊。
變更內容
- fix(guardrails): 在共用內容輔助函式中遍歷 Responses-API 文字分類 - PR #32542
- feat(otel): 在失敗的 LLM 請求上發出 gen_ai.client.operation.exception 事件 - PR #32655
完整變更記錄
https://github.com/BerriAI/litellm/compare/v1.91.2...v1.91.3