Gemini Embedding 2 (GA)：LiteLLM 上的多模態嵌入
Litellm 現在已完全支援 Gemini Embedding 2 GA。
資訊
如需端到端行為、輸入形狀與 MIME 類型，請參閱 Gemini Embedding 2 預覽版導覽。本篇文章著重於 GA 命名、成本對照表 的涵蓋範圍。
3 篇文章 含有標籤「embeddings」
檢視所有標籤事件報告：vLLM Embeddings 因 encoding_format 參數失效
日期： 2026 年 2 月 16 日 持續時間： 約 3 小時 嚴重性： 高（針對 vLLM embeddings 使用者） 狀態： 已解決
摘要
一個原本用來修正 OpenAI SDK 行為的提交（dbcae4a）因為在 API 請求中明確傳入 encoding_format=None，導致 vLLM embeddings 失效。vLLM 會拒絕此項並顯示錯誤："unknown variant \`, expected float or base64"`。
- vLLM embedding 呼叫： 完全失敗 - 所有請求都被拒絕
- 其他提供者： 無影響 - OpenAI 與其他提供者皆正常運作
- 其他 vLLM 功能： 無影響 - 只有 embeddings 受影響
Gemini Embedding 2 預覽版：LiteLLM 上的多模態嵌入
LiteLLM 現在支援 gemini-embedding-2-preview 的多模態嵌入—在單一請求中混合文字、圖片、音訊、影片與 PDF 內容。可透過 Gemini API（API 金鑰）與 Vertex AI（GCP 憑證）使用。
回應格式因提供者而異
- Gemini API（
gemini/...）：每個輸入元素都會回傳其自己的嵌入，依0..N-1索引 — 與 OpenAI 的/embeddings格式相同。LiteLLM 會路由到batchEmbedContents端點，且每個輸入使用一個EmbedContentRequest。 - Vertex AI（
vertex_ai/...）：所有輸入元素會透過embedContent合併為單一整合嵌入。Vertex AI 不會為 Gemini 嵌入模型公開batchEmbedContents，因此N部分 →1向量。若要每個項目各得一個向量，請對每個輸入各呼叫一次embedding(...)。