跳至主要內容

以標籤為基礎的政策附件

將防護欄政策自動套用至任何具有特定標籤的金鑰或團隊。不需要逐一附加政策,只要為您的金鑰加上標籤,讓政策引擎處理其餘部分即可。

範例: 您的資安團隊要求所有與醫療相關的金鑰都必須執行 PII 遮罩與 PHI 偵測。將這些金鑰標記為 health,建立一個單一的以標籤為基礎的附件,所有符合條件的金鑰就會自動套用防護欄。

1. 建立包含防護欄的政策

前往左側邊欄的 Policies。您會看到現有政策清單及其防護欄。

Policies 清單頁面顯示現有政策與 + Add New Policy 按鈕

點擊 + Add New Policy。在彈出視窗中,為您的政策輸入名稱(例如 high-risk-policy2)。如果想參照既有政策名稱,也可以輸入文字進行搜尋。

建立新政策彈出視窗 — 輸入政策名稱與可選描述

向下捲動到 Guardrails to Add。點擊下拉選單查看在您的 proxy 上設定的所有可用防護欄 — 選擇此政策應強制執行的項目。

Guardrails to Add 下拉選單顯示可用防護欄,如 OAI-moderation、phi-pre-guard、pii-pre-guard

選取防護欄後,它們會以標籤形式顯示在輸入欄位中。下方的 Resolved Guardrails 區段會顯示最終將套用的集合(包含任何從上層政策繼承而來的項目)。

已選取的防護欄以標籤顯示:testing-pl、phi-pre-guard、pii-pre-guard。下方為 Resolved Guardrails 預覽。

點擊 Create Policy 以儲存。

點擊 Create Policy 以儲存新政策

2. 為政策新增標籤附件

建立政策後,切換到 Attachments 分頁。您可以在這裡定義政策套用的位置

切換到 Attachments 分頁 — 顯示附件表格與範圍文件

點擊 + Add New Attachment。Attachments 頁面會說明可用的範圍:Global、Teams、Keys、Models 和 Tags

Attachments 頁面顯示包含 Tags 在內的範圍類型 — 點擊 + Add New Attachment

Create Policy Attachment 彈出視窗中,先從下拉選單選取您剛建立的政策。

從下拉選單選取要附加的政策(例如 high-risk-policy2)

將範圍類型選為 Specific (teams, keys, models, or tags)。這會展開表單,顯示 Teams、Keys、Models 與 Tags 欄位。

選取「Specific」範圍類型以顯示 Tags 欄位

向下捲動到 Tags 欄位並輸入要比對的標籤—這裡我們輸入 health。您可以輸入任何字串,或使用萬用字元模式例如 health-* 來比對所有以 health- 開頭的標籤(例如 health-teamhealth-dev)。

Tags 欄位輸入了 "health"。支援萬用字元,例如 prod-* 可比對 prod-us、prod-eu。

3. 檢查附件的影響

在建立附件之前,點擊 Estimate Impact 預覽會有多少金鑰與團隊受到影響。這是您的爆炸半徑檢查—在套用前請確認範圍符合預期。

點擊 Estimate Impact — 已輸入標籤 "health" 並可預覽

Impact Preview 會以內嵌方式顯示,精確說明會影響多少金鑰與團隊。在此範例中:「This attachment would affect 1 key and 0 teams」,並列出金鑰別名 hi

Impact Preview 顯示「This attachment would affect 1 key and 0 teams.」Keys: hi

確認影響範圍無誤後,點擊 Create Attachment 進行儲存。

點擊 Create Attachment 完成建立

現在附件會出現在表格中,並顯示政策名稱 high-risk-policy2 與標籤 health

Attachments 表格顯示新附件,政策為 high-risk-policy2,標籤為 "health"

4. 建立帶有該標籤的金鑰

前往左側邊欄的 Virtual Keys。點擊 + Create New Key

Virtual Keys 頁面顯示現有金鑰 — 點擊 + Create New Key

輸入金鑰名稱並選擇模型。接著展開 Optional Settings,向下捲動到 Tags 欄位。

建立新金鑰彈出視窗 — 輸入金鑰名稱

Tags 欄位中輸入 health 並按 Enter。這是政策引擎將進行比對的標籤。

金鑰建立中的 Tags 欄位 — 輸入 "health" 以新增標籤

標籤 health 現在會以標籤形式顯示在 Tags 欄位中。請確認您的設定看起來正確。

Tags 欄位顯示已選取 "health" 並帶有核取記號

點擊表單底部的 Create Key

點擊 Create Key 以產生帶有 health 標籤的新虛擬金鑰

會出現一個對話框顯示您的新虛擬金鑰。點擊 Copy Virtual Key — 下一步測試時會需要這個金鑰。

儲存您的金鑰對話框 — 點擊 Copy Virtual Key 將其複製到剪貼簿

5. 測試金鑰並驗證政策已套用

前往左側邊欄的 Playground 以互動方式測試金鑰。

從側邊欄前往 Playground

Virtual Key Source 下,選擇「Virtual Key」並將剛複製的金鑰貼到輸入欄位中。

將虛擬金鑰貼到 Playground 設定中

Select Model 下拉選單選取模型。

從下拉選單選取模型(例如 bedrock-claude-opus-4.5)

輸入訊息並按 Enter。如果某個防護欄封鎖了請求,您會在回應中看到。在此範例中,testing-pl 防護欄偵測到電子郵件樣式並回傳 403 錯誤—確認政策正在運作。

防護欄生效 — 請求被封鎖並顯示「Content blocked: email pattern detected」

使用 curl:

您也可以透過命令列驗證。回應標頭會確認套用了哪些政策與防護欄:

curl -v http://localhost:4000/chat/completions \
-H "Authorization: Bearer <your-tagged-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "say hi"}]
}'

檢查回應標頭:

x-litellm-applied-policies: high-risk-policy2
x-litellm-applied-guardrails: pii-pre-guard,phi-pre-guard,testing-pl
x-litellm-policy-sources: high-risk-policy2=tag:health
標頭它告訴您的內容
x-litellm-applied-policies哪些政策符合這次請求
x-litellm-applied-guardrails實際執行了哪些防護欄
x-litellm-policy-sources每個政策為何會符合—tag:health 可確認是標籤
🚅
LiteLLM Enterprise
為正式環境打造的 SSO/SAML、稽核記錄、支出追蹤、多團隊管理與防護欄。
深入瞭解 →