跳至主要內容

✨ 企業版

資訊

新加入嗎?請從 Enterprise Quickstart 開始。您也可以開始 30 天試用 或 預約示範。

Enterprise 適用於誰?​

適用於大規模使用 LiteLLM 的團隊(100+ 使用者或 10+ 個正式上線的 AI 使用案例),且在 OSS 之上還需要 SSO、稽核記錄、細粒度存取控制與專業支援。SSO 最多 5 位使用者免費。超過之後則需要企業授權。不確定您是否符合資格嗎?聯絡我們。

為什麼選擇 Enterprise?​

LiteLLM OSS 已經涵蓋基本功能:相容 OpenAI 的閘道、虛擬金鑰、支出追蹤、預算、備援,以及請求/回應記錄。Enterprise 則新增大型組織安全地讓數百位使用者與數十個應用程式存取 LLM 所需的控管功能。

OSSEnterprise
驗證Master key、UI_USERNAME 與 UI_PASSWORDSSO + SCIM、OIDC/JWT
金鑰管理跨 LLM APIs、MCPs 與 Agents 的虛擬金鑰、使用者、團隊組織、組織/團隊管理員、委派管理角色
安全性Master key、虛擬金鑰,以及 master key rotation虛擬金鑰輪替、對 secret manager 的讀/寫、IP allowlists、public and private route controls
防護欄永遠啟用 / 依請求啟用。包含自訂防護欄與 Presidio(PII 遮罩)。內建 moderation callbacks 需要授權;請參閱下方附註。以金鑰與團隊為範圍的防護欄
記錄請求/回應記錄、Prometheus 指標依金鑰 / 依團隊路由至 Langfuse、Langsmith、Arize 等。管理作業記錄
部署單一區域 proxy單一授權下的多區域部署,admin/worker 分離

功能​

安全性與存取​

治理與成本​

可觀測性與合規​

作業與品牌識別​

  • 自訂 Swagger 品牌識別。在 API 文件頁面上設定您自己的標題、描述與過濾後的路由
  • 自訂電子郵件品牌識別。系統電子郵件顯示您的標誌與配色
  • 請求/回應大小上限。保護 proxy 免於失控的負載
  • 由團隊管理的模型。讓團隊使用自己的金鑰與微調模型

哪些防護欄需要授權?​

OSS 防護欄架構包含自訂防護欄與用於 PII 遮罩的 Presidio。這些內建 callback 整合需要 LiteLLM Enterprise 授權:llmguard_moderations、llamaguard_moderations、hide_secrets、openai_moderations、google_text_moderation、lakera_prompt_injection,以及 aporia_prompt_injection。

執行​

將 Docker 映像部署到您自己的基礎架構上,或從 pip 套件建置。授權金鑰可啟用上述功能,並包含專屬支援管道。

LITELLM_LICENSE="eyJ..."

不會有資料離開您的環境。可透過 AWS 與 Azure Marketplace 採購。

價格取決於您的部署規模。聯絡我們以確認範圍。

支援​

標準支援​

每一份企業授權皆包含:與工程團隊的專屬 Slack 或 Teams 頻道,用於整合、部署與提供者疑難排解。服務時間為 PST 週一至週五上午 9 點到晚上 9 點。不包含保證回應時間。

24/7 支援 SLA​

對於需要全天候保證回應時間的團隊,可加價取得 24/7 支援 SLA。

嚴重性回應 SLA
Sev 0。100% 的正式生產流量失敗1 小時
Sev 1。部分正式生產影響6 小時
Sev 2–3。設定問題與非緊急錯誤24 小時(PT 早上 7 點到晚上 7 點,週一至週六)
安全性修補72 小時

可依需求提供自訂 SLA。支援範圍請參閱 Shared Responsibility Model。

版本支援​

LiteLLM 支援最近四個穩定的 minor line。這些線都會持續獲得 patch release。比這更舊的版本會進入生命週期結束並停止接收更新。此政策自 2026 年 6 月 29 日星期一生效。到 2026 年 6 月中旬為止,受支援的線為 1.86、1.87、1.88 與 1.89,且會隨著新的穩定版釋出而向前推進。

LiteLLM 大約每週會推出一條新的 minor line。替每一條較舊的 line 打補丁,代表每一個修正都必須套用到所有仍在支援中的 line 上,而這個成本會隨著 line 數量而不是修正數量增加。四條 line 是仍能獲得這種照護的視窗。

這個視窗始終保留最近四個穩定的 minor line。當新的 line 釋出時,最舊的那條會退出並停止接收 release。不存在獨立的長期維護軌道。對於任何受支援的 line,請使用其最新 patch。若發生罕見且高嚴重性的問題,LiteLLM 仍可能在該視窗之外處理。

要確認您目前的位置,請取最新的穩定版 line,往回數四條。如果您的版本比那還舊,請規劃升級。固定到某個 minor line、套用其 patch,並在您的版本退出之前移至更新的 line。

常見問題​

如何設定並驗證 Enterprise 授權?​

先將授權金鑰加入您的環境,然後重新啟動 proxy。

LITELLM_LICENSE="eyJ..."

開啟 http://<your-proxy-host>:<port>/。API 文件頁面應該會在描述中顯示 Enterprise Edition。如果沒有,請確認金鑰正確且尚未過期,並確認 proxy 已完全重新啟動。

我可以在哪裡閱讀更多關於資料安全與法規遵循的資訊?​

定價結構是什麼?​

定價依使用量而定。請 聯絡我們 取得為您的團隊量身打造的報價。

如何在不重新啟動的情況下,為新模型取得 day-0 支援?​

使用自動同步新模型可隨需或依排程從 GitHub 擷取最新的價格與 context-window 資料,且無需重新啟動。可透過 POST /reload/model_cost_map 觸發手動同步,或使用 POST /schedule/model_cost_map_reload?hours=6 排程定期同步。