Google AI Studio - 代管代理程式

LiteLLM 現在支援 Google AI Studio Managed Agents API。可透過 LiteLLM 建立、管理並執行自訂代理程式。

概覽

有兩個不同步驟：

1. 建立自訂代理程式：/v1beta/agents 會在 Gemini 端定義您的代理程式（名稱、基礎模型、指令）。
2. 執行代理程式：建立具名代理程式後，您可以在 /interactions 請求的 agent 欄位中指定其資源名稱來與其互動。

LiteLLM 不會 將代理程式儲存在自己的資料庫中。代理程式完全存在於 Google 端。LiteLLM 只是驗證 + 路由層。

快速開始

Proxy

將您的 Gemini API 金鑰加入環境變數：

export GEMINI_API_KEY="AIzaSy..."

最小proxy_config.yaml：

general_settings:
  master_key: "sk-1234"

environment_variables:
  GEMINI_API_KEY: "AIzaSy..."   # or set in shell env

啟動 proxy：

litellm --config proxy_config.yaml

如果未設定 GEMINI_API_KEY，所有代管代理程式呼叫都會因 Google 的驗證錯誤而失敗。

SDK

import os
import litellm

os.environ["GEMINI_API_KEY"] = "AIzaSy..."

您也可以在每次呼叫時傳入 api_key="AIzaSy..."，而不是設定環境變數。

1. 建立代理程式

Proxy

curl -X POST "http://localhost:4000/v1beta/agents" \
  -H "Authorization: Bearer sk-1234" \
  -H "Content-Type: application/json" \
  -d '{
    "name": "my-custom-slides-agent",
    "base_agent": "antigravity-preview-05-2026",
    "instructions": "You are a helpful assistant that creates slides.",
    "base_environment": {"env_id": "YOUR_ENVIRONMENT_ID"}
}'

回應：

{
  "id": "my-slides-agent",
  "base_agent": "antigravity-preview-05-2026",
  "system_instruction": "You are a helpful assistant that creates slides."
}

SDK

response = litellm.interactions.agents.create(
    name="my-slides-agent",
    base_agent="antigravity-preview-05-2026",
    instructions="You are a helpful assistant that creates slides.",
    custom_llm_provider="gemini",
    base_environment={"env_id": "YOUR_ENVIRONMENT_ID"}
)
print(response.id)  # "my-slides-agent"

非同步變體：litellm.interactions.agents.acreate(...)。

參數：

欄位	必填	說明
name	是	唯一的代理程式識別碼，後續呼叫中作為 ID 使用
base_agent	是	要建立的基礎模型。目前 Google 只支援 "antigravity-preview-05-2026"
instructions	否	代理程式的系統層級指令
base_environment	否	環境設定（例如 GCS skill sources）

以相同的 name 呼叫建立兩次，Google 會回傳 409 Conflict。

2. 執行代理程式

Proxy

curl -X POST "http://localhost:4000/v1beta/interactions" \
  -H "Authorization: Bearer sk-1234" \
  -H "Content-Type: application/json" \
  -d '{
    "agent": "my-slides-agent",
    "input": "Create a slide deck on the Fibonacci sequence",
    "environment": "remote" # required for agents
  }'

SDK

response = litellm.interactions.create(
    agent="my-slides-agent",
    input="Create a slide deck on the Fibonacci sequence",
    environment="remote"
)
print(response)

非同步變體：litellm.interactions.acreate(...)。

注意：請傳入 agent，不要傳入 model。代理程式名稱不是 LiteLLM 模型，請不要將其放入 model 欄位。

另請參閱：/interactions 以了解完整的 Interactions API。

管理代理程式

列出代理程式

Proxy

curl "http://localhost:4000/v1beta/agents" \
  -H "Authorization: Bearer sk-1234"

回應

{
    "agents": [
        {
            "id": "my-custom-slides-agent"
        },
        {
            "id": "my-custom-slides-agent-1"
        }
    ]
}

SDK

agents = litellm.interactions.agents.list()

取得代理程式

Proxy

curl "http://localhost:4000/v1beta/agents/my-slides-agent" \
  -H "Authorization: Bearer sk-1234"

回應

{
    "id": "my-custom-slides-agent",
    "base_agent": "antigravity-preview-05-2026",
    "system_instruction": "You are a helpful assistant that creates slides.",
    "base_environment": {
        "sources": [
            {
                "type": "gcs",
                "source": "gs://eap-templates/slides-skill",
                "target": "/.agents/skills/slides-skill"
            }
        ],
        "type": "remote"
    }
}

SDK

agent = litellm.interactions.agents.get(
    name="my-slides-agent"
)

刪除代理程式

Proxy

curl -X DELETE "http://localhost:4000/v1beta/agents/my-slides-agent" \
  -H "Authorization: Bearer sk-1234"

SDK

litellm.interactions.agents.delete(
    name="my-slides-agent",
    custom_llm_provider="gemini",
)

列出代理程式版本

Proxy

curl "http://localhost:4000/v1beta/agents/my-slides-agent/versions" \
  -H "Authorization: Bearer sk-1234"

回應

{
    "agentVersions": [
        {
            "agent": "antigravity-preview-05-2026",
            "base_environment": {
                "env_id": "sdsdd"
            },
            "instructions": "You are a helpful assistant that creates slides",
            "name": "agents/my-custom-slides-agent-1/versions/a7616fd3-4e3e-48e7-aea7-9ac76b4f37ab"
        }
    ]
}

SDK

versions = litellm.interactions.agents.list_versions(
    name="my-slides-agent",
    custom_llm_provider="gemini",
)

驗證

方法	如何提供金鑰
Proxy	在 proxy 的環境變數中設定 GEMINI_API_KEY（或 GOOGLE_API_KEY）。虛擬金鑰（sk-...）會對使用者進行 proxy 驗證；proxy 會使用您的 Gemini 金鑰與 Google 通訊。
SDK	在環境中設定 GEMINI_API_KEY，或在每次呼叫時傳入 api_key="AIzaSy..."。

除了 Google AI Studio 之外，沒有其他方式可以搭配任何提供者使用代管代理程式。此 API 不支援其他提供者。

限制

• base_agent 只接受 "antigravity-preview-05-2026"（Google 目前的限制）。
• 代理程式只儲存在 Google 端。LiteLLM 不會將其持久化到資料庫中。如果您透過 Google 的 API 直接刪除代理程式，proxy 不會知道。
• 目前僅 Gemini 支援透過 agent 參數使用 Interactions API。若要呼叫其他提供者的模型，請使用 model 參數。
• proxy 環境中必須存在 GEMINI_API_KEY / GOOGLE_API_KEY。在 SDK 中支援透過 api_key 逐請求傳入金鑰，但目前 proxy 端點尚不支援。

標籤

gemini managed-agents interactions google-ai-studio agents litellm-proxy