DAY 0 支援:LiteLLM 上的 Gemini 3.5 Flash
LiteLLM 現在完整支援 gemini-3.5-flash,並提供 day 0 支援!
如果您只需要成本追蹤,您目前的 LiteLLM 版本無需變更。但如果您想支援此版本新增的功能——thinking levels、strict function-call IDs 和 thought signatures——請使用 v1.87.0-dev.1 或以上版本。
LiteLLM 現在完整支援 gemini-3.5-flash,並提供 day 0 支援!
如果您只需要成本追蹤,您目前的 LiteLLM 版本無需變更。但如果您想支援此版本新增的功能——thinking levels、strict function-call IDs 和 thought signatures——請使用 v1.87.0-dev.1 或以上版本。
LiteLLM 現在支援 Google AI Studio Managed Agents API。透過 LiteLLM 建立、管理並執行自訂代理程式。
自 LiteLLM v1.87.0-dev.1 起可用。
Litellm 現在已完全支援 Gemini Embedding 2 GA。
如需端到端行為、輸入形狀與 MIME 類型,請參閱 Gemini Embedding 2 預覽版導覽。本篇文章著重於 GA 命名、成本對照表 的涵蓋範圍。
LiteLLM 現在完整支援 gemini-3.1-flash-lite-preview,具備完整的 day 0 支援!
如果您只想進行成本追蹤,您目前的 Litellm 版本不需要任何變更。但如果您想使用隨之推出的新功能,例如 thinking levels,則需要使用 v1.80.8-stable.1 或以上版本。
LiteLLM 現在支援 gemini-3.1-pro-preview 以及所有隨之而來的新 API 變更。
LiteLLM 現在支援 gemini-3-flash-preview 以及其所有新的 API 變更。
如果您只想要成本追蹤,您目前的 Litellm 版本不需要任何變更。但如果您想要支援隨之推出的新功能,例如 thinking levels,則需要使用 v1.80.8-stable.1 或以上版本。
本指南涵蓋使用 gemini-3-pro-preview 搭配 LiteLLM Proxy 和 SDK 的常見問題與最佳做法。
LiteLLM 現在支援 gemini-embedding-2-preview 的多模態嵌入—在單一請求中混合文字、圖片、音訊、影片與 PDF 內容。可透過 Gemini API(API 金鑰)與 Vertex AI(GCP 憑證)使用。
gemini/...):每個輸入元素都會回傳其自己的嵌入,依 0..N-1 索引 — 與 OpenAI 的 /embeddings 格式相同。LiteLLM 會路由到 batchEmbedContents 端點,且每個輸入使用一個 EmbedContentRequest。vertex_ai/...):所有輸入元素會透過 embedContent 合併為單一整合嵌入。Vertex AI 不會為 Gemini 嵌入模型公開 batchEmbedContents,因此 N 部分 → 1 向量。若要每個項目各得一個向量,請對每個輸入各呼叫一次 embedding(...)。