v1.88.4 - Proxy Exception 與防護欄修正
部署此版本
- Docker
- Pip
docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.88.4
pip install litellm==1.88.4
v1.88.4 是建立在 v1.88.3 之上的修補版發行。它會還原可讀的 ProxyException 訊息、在 AIM 防護欄封鎖請求時回傳 400 而非 500、限制 Anthropic cache-control 注入，並修正 Datadog 批次分割以及 chat-completions 旗標外洩問題。
有哪些變更
- fix(proxy): 填入 Exception.args，使 str(ProxyException) 回傳訊息 - PR #29015
- fix(datadog): 在 413 時分割過大的批次，而不是永遠重新佇列 - PR #29444
- fix: 阻止 use_chat_completions_api 旗標外洩到提供者請求主體中 - PR #29447
- fix(integrations): 將 Anthropic cache_control 注入上限設為 4 個區塊 - PR #30480
- fix(guardrails): 當 AIM 封鎖請求時回傳 400 而非 500 - PR #30573
完整更新紀錄
https://github.com/BerriAI/litellm/compare/v1.88.3...v1.88.4