v1.88.3 - 防護欄輪詢與 Hook 修正
部署此版本
- Docker
- Pip
docker run \
-e STORE_MODEL_IN_DB=True \
-p 4000:4000 \
docker.litellm.ai/berriai/litellm:1.88.3
pip install litellm==1.88.3
v1.88.3 是基於 v1.88.2 的修補版本。此版本修正了兩個防護欄回歸問題:以資料庫為後端的防護欄在每次輪詢時都會重新初始化,以及模型層級防護欄的 pre-call hook 會執行不只一次。
變更內容
- fix(guardrails): 不要在每次輪詢時重新初始化 DB 防護欄 - PR #30542
- fix(guardrails): 針對模型層級防護欄執行一次
pre_callhook - PR #30543
完整變更記錄
https://github.com/BerriAI/litellm/compare/v1.88.2...v1.88.3