/realtime

使用這個來在 Azure + OpenAI + xAI 等之間進行負載平衡。

支援的提供者：

OpenAI
Azure
xAI (查看完整文件)
Google AI Studio（Gemini）
Vertex AI
Vertex AI Chirp，僅限轉錄 (查看完整文件)
Bedrock
Meta Muse Voice，僅限轉錄 (查看完整文件)

代理程式用法

將模型加入設定檔

OpenAI
OpenAI + Azure
xAI Grok 語音代理程式

model_list:
  - model_name: openai-gpt-4o-realtime-audio
    litellm_params:
      model: openai/gpt-4o-realtime-preview-2024-10-01
      api_key: os.environ/OPENAI_API_KEY
    model_info:
      mode: realtime

model_list:
  - model_name: azure-gpt-4o-realtime-audio
    litellm_params:
      model: azure/gpt-4o-realtime-preview
      api_key: os.environ/AZURE_SWEDEN_API_KEY
      api_base: os.environ/AZURE_SWEDEN_API_BASE

  - model_name: azure-gpt-realtime
    litellm_params:
      model: azure/gpt-realtime
      api_key: os.environ/AZURE_API_KEY
      api_base: os.environ/AZURE_API_BASE
    model_info:
      mode: realtime

  - model_name: openai-gpt-4o-realtime-audio
    litellm_params:
      model: openai/gpt-4o-realtime-preview-2024-10-01
      api_key: os.environ/OPENAI_API_KEY

model_list:
  - model_name: grok-voice-agent
    litellm_params:
      model: xai/grok-voice-latest
      api_key: os.environ/XAI_API_KEY
    model_info:
      mode: realtime

查看完整 xAI Realtime 文件 →

啟動代理程式

litellm --config /path/to/config.yaml 

# RUNNING on http://0.0.0.0:4000

測試

使用 node 執行這個腳本 - node test.js

// test.js
const WebSocket = require("ws");

const url = "ws://0.0.0.0:4000/v1/realtime?model=openai-gpt-4o-realtime-audio";
// const url = "wss://my-azure-endpoint.openai.azure.com/openai/realtime?api-version=2024-10-01-preview&deployment=gpt-4o-realtime-preview";
const ws = new WebSocket(url, {
    headers: {
        "api-key": `sk-<your-litellm-api-key>`,
        "OpenAI-Beta": "realtime=v1",
    },
});

ws.on("open", function open() {
    console.log("Connected to server.");
    ws.send(JSON.stringify({
        type: "response.create",
        response: {
            modalities: ["text"],
            instructions: "Please assist the user.",
        }
    }));
});

ws.on("message", function incoming(message) {
    console.log(JSON.parse(message.toString()));
});

ws.on("error", function handleError(error) {
    console.error("Error: ", error);
});

Azure：GA 與 beta 即時通訊協定

Azure 提供兩個即時上游。GA 端點（/openai/v1/realtime?model=<deployment>）使用 GA 事件結構（session.type、output_modalities、巢狀 audio），而較舊的 beta 端點（/openai/realtime?api-version=2024-10-01-preview&deployment=<deployment>）使用 beta 結構（modalities、voice、扁平音訊格式）。將 GA 形狀的 session.update 傳送至 beta 端點會失敗，並出現 Unknown parameter: 'session.type'

LiteLLM 會依據用戶端連線選擇上游。傳送 OpenAI-Beta: realtime=v1 標頭的用戶端（openai SDK 的 client.beta.realtime.connect）會橋接到 beta 端點。沒有該標頭的用戶端（openai SDK 的 client.realtime.connect，以及大多數語音代理程式框架）會橋接到 GA 端點。轉錄工作階段（intent=transcription）一律使用 GA

import os

from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="http://0.0.0.0:4000", api_key=os.environ["LITELLM_API_KEY"])

async with client.realtime.connect(model="azure-gpt-realtime") as connection:
    await connection.session.update(
        session={"type": "realtime", "output_modalities": ["audio"], "instructions": "Please assist the user."}
    )
    async for event in connection:
        print(event.type)
        if event.type == "session.updated":
            break

若要固定某個協定，不論用戶端傳送什麼，都可在部署上設定 realtime_protocol，或在 Proxy 的環境中設定 LITELLM_AZURE_REALTIME_PROTOCOL。部署設定的優先順序高於環境變數，而兩者都高於用戶端標頭。即時健康檢查（/health 在 mode: realtime 部署上，以及 Admin UI 的 Test Connect）沒有可讀取的用戶端標頭，因此會探測 GA 端點，除非其中一項已將協定固定

model_list:
  - model_name: azure-gpt-realtime
    litellm_params:
      model: azure/gpt-realtime
      api_key: os.environ/AZURE_API_KEY
      api_base: os.environ/AZURE_API_BASE
      realtime_protocol: beta # or GA

export LITELLM_AZURE_REALTIME_PROTOCOL=beta # or GA

防護欄

您可以將 LiteLLM 防護欄套用到即時工作階段。

在金鑰或團隊上設定防護欄

最簡單的正式環境設定：將防護欄附加到虛擬金鑰或團隊，如此它們就會自動套用，無需任何用戶端端變更。

請參閱虛擬金鑰 → 防護欄和團隊 → 防護欄。

動態傳遞防護欄（方便測試）

在開啟 WebSocket 時，將 guardrails 作為查詢參數傳入。適合在不修改金鑰／團隊設定的情況下測試防護欄。

// node test.js
const WebSocket = require("ws");

const guardrails = ["your-guardrail-name"]; // comma-separated list
const url = `ws://0.0.0.0:4000/v1/realtime?model=openai-gpt-4o-realtime-audio&guardrails=${guardrails.join(",")}`;

const ws = new WebSocket(url, {
    headers: {
        "Authorization": "Bearer sk-<your-litellm-api-key>",
    },
});

ws.on("open", function open() {
    console.log("Connected — guardrails active:", guardrails);
});

ws.on("message", function incoming(message) {
    const data = JSON.parse(message);
    if (data.type === "error") {
        // Guardrail block is sent as an error event before the connection closes
        console.error("Guardrail error:", data.error.message);
    }
});

ws.on("close", function close(code, reason) {
    console.log("Closed:", code, reason.toString());
    // code 1011 = blocked by guardrail at pre_call
});

或者使用 Python：

import asyncio
import websockets

async def main():
    url = "ws://0.0.0.0:4000/v1/realtime?model=openai-gpt-4o-realtime-audio&guardrails=your-guardrail-name"
    async with websockets.connect(
        url,
        additional_headers={"Authorization": "Bearer sk-<your-litellm-api-key>"},
    ) as ws:
        print("Connected — guardrail active")
        async for msg in ws:
            import json
            data = json.loads(msg)
            if data["type"] == "error":
                print("Guardrail blocked:", data["error"]["message"])
                break

asyncio.run(main())

當防護欄封鎖請求時，代理程式會透過 WebSocket 傳送一個 error 事件，然後關閉連線：

{
    "type": "error",
    "error": {
        "type": "guardrail_error",
        "message": "Guardrail blocked this request: <reason>"
    }
}

記錄

為避免請求被丟棄，LiteLLM 預設只會記錄這些事件類型：

session.created
response.create
response.done

您可以在設定檔中設定 logged_real_time_event_types 參數來覆寫這個行為。例如：

litellm_settings:
  logged_real_time_event_types: "*" # Log all events
  ## OR ## 
  logged_real_time_event_types: ["session.created", "response.create", "response.done"] # Log only these event types

代理程式用法​

將模型加入設定檔​

啟動代理程式​

測試​

Azure：GA 與 beta 即時通訊協定​

防護欄​

在金鑰或團隊上設定防護欄​

動態傳遞防護欄（方便測試）​

記錄​