學習 LiteLLM
LiteLLM 為您提供一個可與 OpenAI 相容的介面,可支援 100+ 個 LLM 提供者。請從最符合您設定的路徑開始。
從這裡開始
先選擇一條路徑。
SDK 快速入門
直接在應用程式程式碼中使用 LiteLLM。
- 安裝
- 首次請求
- 後續 SDK 功能
閘道快速入門
將 LiteLLM 作為共用閘道執行。
- 啟動 proxy
- 新增模型與金鑰
- 連接用戶端
企業版快速入門
LiteLLM Enterprise 快速入門指南:LLM、MCP 與代理程式閘道。
- 使用授權部署
- 驗證三個閘道
- 啟用企業控制
常見工作
跳到特定工作。
串流回應
在 token 產生時即時回傳。
使用工具
為您的應用程式新增函式呼叫。
新增路由
重試、備援與負載平衡。
設定金鑰
閘道驗證、虛擬金鑰與存取控制。
新增記錄
擷取請求記錄與支出資料。
選擇提供者
尋找特定提供者的驗證與參數。
文件地圖
當您已經知道想要哪一種類型的文件時,請使用這些。
不知道從哪裡開始嗎?應用程式程式碼請使用 SDK 快速入門,共用基礎架構請使用 閘道快速入門,或是試用/PoC 評估請使用 企業版快速入門。