跳至主要內容

19 篇文章 含有標籤「security」

檢視所有標籤

9 月 Townhall 更新：583 個錯誤修復、Rust 上的 OCR，以及 83.5% 覆蓋率

Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM
Yujong Lee
Yujong Lee
Senior SWE, LiteLLM
Oliver Jensen
Oliver Jensen
Director of Security, LiteLLM
Mateo Wang
Mateo Wang
AI Engineer, LiteLLM

感謝所有參加我們 9 月 town hall 的朋友。我們介紹了產品中的安全性更新、穩定性更新與新功能，包括預設在 Rust 上執行的 OCR，以及超過我們 8 月設定的 80% 目標的測試覆蓋率。

以具備身分意識的存取與支出控制安全保護共享 AI 代理程式

Yassin Kortam
Yassin Kortam
Senior SWE @ LiteLLM

共享代理程式可以保留個別身分、存取與支出控制。

當財務代理程式服務多個業務單位時，平台團隊需要一致的方法來識別每個請求的發起者、套用正確的模型與工具權限，並歸屬支出。LiteLLM 讓這些脈絡在共享代理程式工作流程中保持可用，因此每個業務單位都能在各自的存取與預算政策下運作。

LiteLLM 為此工作流程提供一個統一的控制平面，涵蓋 Agent Gateway、Model Gateway 與 MCP Gateway。團隊可以共享相同的代理程式基礎架構，同時讓存取權、憑證、支出與稽核資料都繫結到正確的呼叫者。

6 月 Townhall 更新：94 個 Bug 修正、OCR + Realtime 改用 Rust，以及零回歸承諾

Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM

感謝所有參加我們 June town hall 的人。

這個月有三個數字最能代表：24 項安全修正、94 個 Bug 修正，以及 78 項功能提交。以下各節將逐一說明，並介紹我們對零已回報回歸的公開承諾，以及 LiteLLM 閘道逐步遷移至 Rust 的進展。

已在 1.84.0+ 修正 - 版本更新：透過 Host Header Injection 的認證繞過（GHSA-4xpc-pv4p-pm3w）

Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM
Yuneng Jiang
Yuneng Jiang
Senior SWE @ LiteLLM

針對 LiteLLM proxy 這個 Host-header 認證繞過的更新已於 v1.84.0 發布，後續的路徑處理強化則已完成，並在 v1.84.3、v1.85.2、v1.86.2 與 v1.83.10-stable.patch.3 中回補到所有維護中的發行線。繞過的潛在風險僅限於同時具備下列三項特定條件的部署。此繞過由 Le The Thang（KCSC）與 Kim Ngoc Chung（One Mount Group）回報。

在 proxy listener 可透過任意 Host 標頭存取時，這些條件可能允許未經驗證的存取進入受保護的管理路由。

沒有任何 LiteLLM Cloud 客戶受到影響。此次更新已在本公告發表前，部署到所有 LiteLLM Cloud 環境中——並回補到使用中的發行線。

  • 已在以下版本修正：v1.84.0
  • 建議：使用最新版本；後續的路徑處理強化已回補至 v1.84.3、v1.85.2 與 v1.86.2
  • 採取行動：升級至 v1.84.0 或更新版本。無需變更設定。

關於此公告的更多資訊請見這裡：https://github.com/BerriAI/litellm/security/advisories/GHSA-4xpc-pv4p-pm3w. CVE：https://www.cve.org/CVERecord?id=CVE-2026-48710.

安全更新：Mistral AI PyPI 供應鏈攻擊 — LiteLLM 未受影響

Mubashir Osmani
Mubashir Osmani

2026 年 5 月 11 日，來自 Aikido Security 的資安研究人員發現了一起名為 "Mini Shai-Hulud" 的協同供應鏈攻擊，該攻擊發布了超過 170 個 npm 套件與 2 個 PyPI 套件的惡意版本，其中包括 mistralai==2.4.6。

LiteLLM 不受影響。 我們透過 httpx 直接經由 HTTP 呼叫 Mistral 的 API，且在程式碼庫中的任何地方都不會匯入 mistralai Python SDK。

重點摘要；​

  • LiteLLM 不會安裝或匯入 mistralai 套件。 我們呼叫 Mistral 的 API 方式與呼叫其他所有提供者相同（透過 httpx）。這個遭入侵的套件在任何 LiteLLM 環境中都不會被執行。
  • 這次攻擊未使任何 LiteLLM 使用者憑證面臨風險。 惡意程式在 import mistralai 時執行。由於 LiteLLM 從未觸發該匯入，因此負載永遠不會執行。
  • LiteLLM 使用者無需採取任何行動。 如果您為了自己的應用程式程式碼，已在相同環境中另外安裝 mistralai==2.4.6，請立即遵循 Mistral AI 的指引。

LiteLLM Proxy 的安全更新：CVE-2026-42208

Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM

我們最近針對 LiteLLM Proxy 發布了一則安全公告。

我們透過 bug bounty program 收到一份關於 LiteLLM Proxy 的 API key 驗證路徑中存在 SQL injection 漏洞的回報，該漏洞追蹤編號為 CVE-2026-42208。

此問題已由我們的團隊審查、在穩定版本中修正，並以 GitHub Security Advisory 的形式發布。

  • 受影響版本： v1.81.16 至 v1.83.6
  • 已修正版本： v1.83.7 及之後版本
  • 建議版本： v1.83.10-stable

穩定版本：https://github.com/BerriAI/litellm/releases/tag/v1.83.10-stable

公告：https://github.com/BerriAI/litellm/security/advisories/GHSA-r75f-5x8p-qvmc

安全更新：CVE-2026-30623 — 透過 Anthropic 的 MCP SDK 進行命令注入

Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM

2026 年 4 月 15 日，OX Security 發布了一則公告，說明 Anthropic 的 MCP SDK 的 stdio 傳輸中的命令注入（StdioServerParameters 會執行它拿到的任何 command）。LiteLLM 自 v1.83.6-nightly 起已修復此問題。

此修補已在 commit 7b7f304（PR #25343）中完成，且自 v1.83.6-nightly 起的每個版本都已包含。v1.83.7-stable 也包含此修補。

重點摘要；​

  • 這項問題無法被未經驗證的使用者利用。 受影響的端點（MCP 伺服器建立以及 /mcp-rest/test/* 預覽端點）都位於 LiteLLM 的驗證之後。攻擊者需要有效的 LiteLLM API 金鑰，而且在修補後，還需要 PROXY_ADMIN 角色，才能到達這段程式路徑。
  • 修補已自 v1.83.6-nightly 起上線。 第一個包含修補的穩定版是 v1.83.7-stable。完整的已修補版本清單請見下方。
  • 如果您發現其他漏洞，請回報給我們。 我們有一個漏洞賞金計畫，並會針對 P0（供應鏈）與 P1（未經驗證的代理存取）問題發放獎金。請參閱我們先前的安全性更新以查看目前的賞金表。

安全更新：漏洞揭露與持續強化

Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
Ishaan Jaffer
CTO, LiteLLM

在 3 月的 供應鏈事件 之後，我們請 Veria Labs 針對 LiteLLM proxy 進行稽核，並修正了來自獨立研究人員的多項漏洞回報。以下所有問題都已在 v1.83.0 中修正。如果您受到影響，特別是如果您已啟用 JWT 驗證，我們建議升級。

我們也已推出 漏洞賞金計畫，而 Veria Labs 也持續對 proxy 進行稽核。更多修正將在後續版本中推出。

這兩個高嚴重性問題（CVE-2026-35029 和 GHSA-69x8-hrgq-fjj8）都要求攻擊者已經持有 proxy 的有效 API 金鑰。未經驗證的使用者無法利用這些問題。

這個關鍵嚴重性問題（CVE-2026-35030）是驗證繞過，但只有在明確啟用 enable_jwt_auth 的部署中才會受影響，而該功能預設為關閉。預設的 LiteLLM 設定不受影響，且沒有 LiteLLM Cloud 客戶啟用此功能。

事件報告：Guardrail 記錄將秘密標頭暴露於 spend logs 和 traces 中

LiteLLM Team
LiteLLM Team
LiteLLM Core Team

日期： 2026 年 3 月 18 日 持續時間： 不明 嚴重性： 高 狀態： 已修復

摘要​

當自訂 guardrail 傳回完整的 LiteLLM request/data dictionary 時，LiteLLM 記錄的 guardrail 回應可能包含 secret_fields.raw_headers，其中包括含有 API 金鑰或其他憑證的明文 Authorization 標頭。

這些資訊接著可能傳播到會消耗 guardrail 中繼資料的記錄與可觀測性表面，包括：

  • LiteLLM UI 中的 spend logs： 對可存取 spend-log 資料的管理員可見
  • OpenTelemetry traces： 對任何可存取相關 telemetry 後端的人可見

LLM 呼叫、proxy 路由，以及提供者執行都不會因這個 bug 而被阻擋。影響是敏感請求標頭在可觀測性與記錄路徑中被暴露。