✨ 企業版
新加入嗎?請從 Enterprise Quickstart 開始。您也可以開始 30 天試用 或 預約示範。
Enterprise 適用於誰?
適用於大規模使用 LiteLLM 的團隊(100+ 使用者或 10+ 個正式上線的 AI 使用案例),且在 OSS 之上還需要 SSO、稽核記錄、細粒度存取控制與專業支援。SSO 最多 5 位使用者免費。超過之後則需要企業授權。不確定您是否符合資格嗎?聯絡我們。
為什麼選擇 Enterprise?
LiteLLM OSS 已經涵蓋基本功能:相容 OpenAI 的閘道、虛擬金鑰、支出追蹤、預算、備援,以及請求/回應記錄。Enterprise 則新增大型組織安全地讓數百位使用者與數十個應用程式存取 LLM 所需的控管功能。
UI_USERNAME 與 UI_PASSWORDSSO + SCIM、OIDC/JWT功能
安全性與存取
- Admin UI 的 SSO。Okta、Azure AD、Google Workspace,以及任何 OIDC/SAML 提供者
- 基於 JWT 的驗證。使用您身分提供者的 token 驗證請求
- 具保留政策的稽核記錄。追蹤每一個管理動作與金鑰層級變更
- 以角色為基礎的存取控制。組織、團隊與使用者角色
- 公開與私有路由控制。限制管理路由並鎖定攻擊面
- 基於 IP 位址的存取控制清單。將 proxy 存取限制在特定 CIDR 範圍
- 金鑰輪替。自動化虛擬金鑰輪替
- 密鑰管理工具。AWS KMS、AWS Secrets Manager、Azure Key Vault、Google KMS、Google Secret Manager、HashiCorp Vault、CyberArk,或自訂密鑰管理工具
- AI Hub。分享可用模型、MCP servers、agents 與 skills 的公開品牌頁面
治理與成本
- 多租戶架構。組織、團隊、專案與金鑰
- 專案管理。依應用程式或使用案例分組金鑰,並具備預算、擁有者、速率限制、模型 allowlist,以及隔離的支出檢視。請參閱 UI walkthrough
- 基於標籤的預算。依自訂標籤進行預算與支出追蹤
- 每個虛擬金鑰的特定模型預算。每個模型、每個金鑰都有不同限制
- 暫時性預算增加。有時限的支出提升,不做永久變更
- 預算接近上限的電子郵件警示。在團隊觸及硬性上限前發出警告
- 產生支出報表。以金鑰、團隊、標籤或模型為單位取得支出資料的程式化存取
可觀測性與合規
- 以團隊為基礎的記錄。將每個團隊的記錄路由至其各自的 Langfuse 專案或 callback
- 依團隊停用記錄。在團隊層級提供符合 GDPR 的退出選項
- 記錄匯出至 GCS / Azure Blob。用於合規的耐久儲存
- 每個金鑰/團隊的防護欄。秘密資訊遮罩、內容審核、禁止關鍵字
- 強制必填參數。拒絕缺少必要中繼資料的請求
作業與品牌識別
- 自訂 Swagger 品牌識別。在 API 文件頁面上設定您自己的標題、描述與過濾後的路由
- 自訂電子郵件品牌識別。系統電子郵件顯示您的標誌與配色
- 請求/回應大小上限。保護 proxy 免於失控的負載
- 由團隊管理的模型。讓團隊使用自己的金鑰與微調模型
哪些防護欄需要授權?
OSS 防護欄架構包含自訂防護欄與用於 PII 遮罩的 Presidio。這些內建 callback 整合需要 LiteLLM Enterprise 授權:llmguard_moderations、llamaguard_moderations、hide_secrets、openai_moderations、google_text_moderation、lakera_prompt_injection,以及 aporia_prompt_injection。
執行
將 Docker 映像部署到您自己的基礎架構上,或從 pip 套件建置。授權金鑰可啟用上述功能,並包含專屬支援管道。
LITELLM_LICENSE="eyJ..."
不會有資料離開您的環境。可透過 AWS 與 Azure Marketplace 採購。
價格取決於您的部署規模。聯絡我們以確認範圍。
支援
標準支援
每一份企業授權皆包含:與工程團隊的專屬 Slack 或 Teams 頻道,用於整合、部署與提供者疑難排解。服務時間為 PST 週一至週五上午 9 點到晚上 9 點。不包含保證回應時間。
24/7 支援 SLA
對於需要全天候保證回應時間的團隊,可加價取得 24/7 支援 SLA。
| 嚴重性 | 回應 SLA |
|---|---|
| Sev 0。100% 的正式生產流量失敗 | 1 小時 |
| Sev 1。部分正式生產影響 | 6 小時 |
| Sev 2–3。設定問題與非緊急錯誤 | 24 小時(PT 早上 7 點到晚上 7 點,週一至週六) |
| 安全性修補 | 72 小時 |
可依需求提供自訂 SLA。支援範圍請參閱 Shared Responsibility Model。
版本支援
LiteLLM 支援最近四個穩定的 minor line。這些線都會持續獲得 patch release。比這更舊的版本會進入生命週期結束並停止接收更新。此政策自 2026 年 6 月 29 日星期一生效。到 2026 年 6 月中旬為止,受支援的線為 1.86、1.87、1.88 與 1.89,且會隨著新的穩定版釋出而向前推進。
LiteLLM 大約每週會推出一條新的 minor line。替每一條較舊的 line 打補丁,代表每一個修正都必須套用到所有仍在支援中的 line 上,而這個成本會隨著 line 數量而不是修正數量增加。四條 line 是仍能獲得這種照護的視窗。
這個視窗始終保留最近四個穩定的 minor line。當新的 line 釋出時,最舊的那條會退出並停止接收 release。不存在獨立的長期維護軌道。對於任何受支援的 line,請使用其最新 patch。若發生罕見且高嚴重性的問題,LiteLLM 仍可能在該視窗之外處理。
要確認您目前的位置,請取最新的穩定版 line,往回數四條。如果您的版本比那還舊,請規劃升級。固定到某個 minor line、套用其 patch,並在您的版本退出之前移至更新的 line。
常見問題
如何設定並驗證 Enterprise 授權?
先將授權金鑰加入您的環境,然後重新啟動 proxy。
LITELLM_LICENSE="eyJ..."
開啟 http://<your-proxy-host>:<port>/。API 文件頁面應該會在描述中顯示 Enterprise Edition。如果沒有,請確認金鑰正確且尚未過期,並確認 proxy 已完全重新啟動。
我可以在哪裡閱讀更多關於資料安全與法規遵循的資訊?
請參閱資料安全、法律與合規常見問題。