LiteLLM × Akto：與內建防護欄並行的基於模型偵測

Akto 現已原生在 LiteLLM proxy 中以串接式防護欄運作。

LiteLLM 已內建防護欄，可進行快速、確定性的檢查（基於正規表示式的 PII、祕密掃描、禁用詞清單）。Akto 在其上新增第二層：以模型為基礎的偵測，用於確定性規則無法涵蓋的情境，例如提示詞注入、語意性 PII 洩漏，以及需要 LLM 來分類意圖的自訂政策違規。

您可以將兩者一起使用。LiteLLM 的防護欄負責便宜且快速的檢查；Akto 則負責需要模型介入的情境。

Akto 以 同步模式 執行（在呼叫 LLM 之前於違規時封鎖）或 非同步模式 執行（記錄並發出警示，不增加延遲）。將其設定為現有 proxy 上的 callback；無需變更應用程式層級。

開始使用： Akto 防護欄設定指南

閱讀完整公告請見 Akto 的部落格 →