指南
指南 是依您使用 LiteLLM 想完成的工作來組織的重點參考:發出請求、使用工具、處理媒體、管理上下文,或安全地操作閘道。
您是 LiteLLM 新手,或不確定是否需要先走 SDK 或 Gateway 路徑?請從 了解 → 開始
使用 LiteLLM 建置
⚡
核心請求
串流、批次處理、結構化輸出,以及推理行為。
🛠️
工具呼叫
函式呼叫、網頁工具、攔截模式、computer use、code interpreter,以及工具呼叫衛生。
🖼️
多模態 I/O
視覺、音訊、PDF、圖片生成,以及影片生成。
📚
檢索與知識
向量儲存、檔案搜尋、引文,以及知識庫路由。
🧠
提示詞與上下文
提示詞快取、修剪、格式化、assistant 預填,以及預測輸出。