Gemini Embedding 2 (GA):LiteLLM 上的多模態嵌入
Litellm 現在已完全支援 Gemini Embedding 2 GA。
資訊
如需端到端行為、輸入形狀與 MIME 類型,請參閱 Gemini Embedding 2 預覽版導覽。本篇文章著重於 GA 命名、成本對照表 的涵蓋範圍。
Litellm 現在已完全支援 Gemini Embedding 2 GA。
如需端到端行為、輸入形狀與 MIME 類型,請參閱 Gemini Embedding 2 預覽版導覽。本篇文章著重於 GA 命名、成本對照表 的涵蓋範圍。
LiteLLM 現已支援使用 gemini-embedding-2-preview 的多模態嵌入,可在單一請求中混合文字、圖片、音訊、影片與 PDF 內容。可透過 Gemini API(API 金鑰)與 Vertex AI(GCP 憑證)使用。
gemini/...):每個輸入元素都會回傳各自的嵌入,依 0..N-1 索引,形狀與 OpenAI 的 /embeddings 相同。LiteLLM 會路由至 batchEmbedContents 端點,並為每個輸入使用一個 EmbedContentRequest。vertex_ai/...):所有輸入元素會透過 embedContent 組合成單一整合嵌入。Vertex AI 不會為 Gemini embedding models 提供 batchEmbedContents,因此 N 部分 → 1 向量。若要為每個項目取得一個向量,請針對每個輸入呼叫一次 embedding(...)。