LiteLLM × Headroom: 與 Claude Code 一起使用更少 60–95% 的 token
Headroom 現在可作為 LiteLLM proxy 上的原生防護欄執行,在工具輸出、RAG 載荷、資料庫結果與檔案讀取到達模型之前先行壓縮。
Headroom 現在可作為 LiteLLM proxy 上的原生防護欄執行,在工具輸出、RAG 載荷、資料庫結果與檔案讀取到達模型之前先行壓縮。

Akto 現已原生在 LiteLLM proxy 中以串接式防護欄運作。
日期: 2026 年 3 月 18 日 持續時間: 不明 嚴重性: 高 狀態: 已修復
當自訂 guardrail 傳回完整的 LiteLLM request/data dictionary 時,LiteLLM 記錄的 guardrail 回應可能包含 secret_fields.raw_headers,其中包括含有 API 金鑰或其他憑證的明文 Authorization 標頭。
這些資訊接著可能傳播到會消耗 guardrail 中繼資料的記錄與可觀測性表面,包括:
LLM 呼叫、proxy 路由,以及提供者執行都不會因這個 bug 而被阻擋。影響是敏感請求標頭在可觀測性與記錄路徑中被暴露。