學習 LiteLLM
LiteLLM 為 100 多個 LLM 提供者提供 OpenAI 相容介面。請依照您的使用情境選擇適合的路徑。
從這裡開始
先選擇一條路徑。
🐍
SDK 快速入門
直接在應用程式程式碼中使用 LiteLLM。
- 安裝
- 發出第一個請求
- 探索後續 SDK 功能
🖥️
Gateway 快速入門
以共用 Gateway 方式執行 LiteLLM。
- 啟動 Proxy
- 新增模型與金鑰
- 連線 Client
✨
企業版快速入門
LiteLLM Enterprise 快速入門，涵蓋 LLM、MCP 與代理程式 Gateway。
- 使用授權部署
- 驗證三種 Gateway
- 啟用企業控制項
常見任務
直接前往特定任務。
⚡
串流回應
在 Token 生成時立即回傳。
🧰
使用工具
在應用程式中加入函式呼叫。
🔀
加入路由
重試、備援與負載平衡。
🔑
設定金鑰
Gateway 驗證、虛擬金鑰與存取控制。
📈
加入記錄
擷取請求記錄與支出資料。
🌐
選擇提供者
尋找提供者專用的驗證方式與參數。
文件地圖
如果您已經知道要找哪一類文件，請從這裡開始。
如果不確定從哪裡開始，應用程式開發請使用 SDK 快速入門，共用基礎架構請使用 Gateway 快速入門，試用或概念驗證請使用企業版快速入門。