跳至主要內容

12 篇文章 含有標籤「gemini」

檢視所有標籤

Day 0 支援:Nano Banana 2.1

Misbah Syed
DevRel Engineer, LiteLLM
Mateo Wang
AI Engineer, LiteLLM
Kerry Lu
Software Engineer, LiteLLM

LiteLLM 與 Nano Banana 2.1

LiteLLM 支援 gemini-nano-banana-2.1 的 Day 0 支援,適用於 Google AI Studio(gemini/)與 Gemini Enterprise Agent Platform,前身為 Vertex AI(vertex_ai/),透過 /v1/images/generations、/v1/images/edits 和 /chat/completions。它取代了 Nano Banana 2(gemini-3.1-flash-image),Gemini API 將於 2026 年 10 月 29 日停止支援該版本。

支援第 0 天:Gemini 3.8 Flash

Mateo Wang
AI Engineer, LiteLLM
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 與 Gemini 3.8 Flash

LiteLLM 現在在第 0 天就支援 gemini-3.8-flash,涵蓋 Google AI Studio(gemini/)與 Vertex AI(vertex_ai/)。Google 將其最新的 Flash 模型稱為主要通用模型,在長期軟體工程、代理式任務與多步驟推理方面,相較於 3.7 Flash 有所提升;而在 DeepSWE v1.1 上,它以僅一小部分成本超越了大多數更大型的前沿模型。

DAY 0 支援:LiteLLM 上的 Gemini 3.5 Flash

Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 現在完整支援 gemini-3.5-flash,並提供 day 0 支援!

備註

如果您只需要成本追蹤,您目前的 LiteLLM 版本無需變更。但如果您希望支援此版本新增的功能,也就是 thinking levels、strict function-call IDs,以及 thought signatures,請使用 v1.87.0-dev.1 或以上版本。

DAY 0 支援:LiteLLM 上的 Gemini 3.1 Flash Lite Preview

Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 現在完整支援 gemini-3.1-flash-lite-preview,具備完整的 day 0 支援!

備註

如果您只想進行成本追蹤,您目前的 Litellm 版本不需要任何變更。但如果您想使用隨之推出的新功能,例如 thinking levels,則需要使用 v1.80.8-stable.1 或以上版本。

Gemini Embedding 2 預覽版:LiteLLM 上的多模態嵌入

Sameer Kankute
SWE @ LiteLLM (LLM Translation)

LiteLLM 現已支援使用 gemini-embedding-2-preview 的多模態嵌入,可在單一請求中混合文字、圖片、音訊、影片與 PDF 內容。可透過 Gemini API(API 金鑰)與 Vertex AI(GCP 憑證)使用。

回應格式因提供者而異
  • Gemini API(gemini/...):每個輸入元素都會回傳各自的嵌入,依 0..N-1 索引,形狀與 OpenAI 的 /embeddings 相同。LiteLLM 會路由至 batchEmbedContents 端點,並為每個輸入使用一個 EmbedContentRequest。
  • Vertex AI(vertex_ai/...):所有輸入元素會透過 embedContent 組合成單一整合嵌入。Vertex AI 不會為 Gemini embedding models 提供 batchEmbedContents,因此 N 部分 → 1 向量。若要為每個項目取得一個向量,請針對每個輸入呼叫一次 embedding(...)。