跳至主要內容

2 篇文章 含有標籤「vertex ai」

檢視所有標籤

Gemini Embedding 2 預覽版:LiteLLM 上的多模態嵌入

Sameer Kankute
SWE @ LiteLLM (LLM Translation)

LiteLLM 現在支援 gemini-embedding-2-preview多模態嵌入—在單一請求中混合文字、圖片、音訊、影片與 PDF 內容。可透過 Gemini API(API 金鑰)與 Vertex AI(GCP 憑證)使用。

回應格式因提供者而異
  • Gemini APIgemini/...):每個輸入元素都會回傳其自己的嵌入,依 0..N-1 索引 — 與 OpenAI 的 /embeddings 格式相同。LiteLLM 會路由到 batchEmbedContents 端點,且每個輸入使用一個 EmbedContentRequest
  • Vertex AIvertex_ai/...):所有輸入元素會透過 embedContent 合併為單一整合嵌入。Vertex AI 不會為 Gemini 嵌入模型公開 batchEmbedContents,因此 N 部分 → 1 向量。若要每個項目各得一個向量,請對每個輸入各呼叫一次 embedding(...)