4 篇文章 含有標籤「proxy」

LiteLLM 現在支援影片 character、edit 與 extension API。

從瀏覽器／行動用戶端透過 WebRTC 連線到 Realtime API。LiteLLM 負責驗證與金鑰管理。

日期： 2026 年 2 月 24 日
期間： 持續進行中（直到修正部署）
嚴重性： 高（適用於在不同 API 金鑰之間對 Responses API 進行負載平衡的使用者）
狀態： 已解決

摘要​

當在具有不同 API 金鑰的部署之間對 OpenAI 的 Responses API 進行負載平衡時（例如，不同的 Azure 區域或 OpenAI 組織），包含加密內容項目（例如 rs_... reasoning items）的後續請求會失敗，錯誤如下：

{
  "error": {
    "message": "The encrypted content for item rs_0d09d6e56879e76500699d6feee41c8197bd268aae76141f87 could not be verified. Reason: Encrypted content organization_id did not match the target organization.",
    "type": "invalid_request_error",
    "code": "invalid_encrypted_content"
  }
}

加密內容項目在密碼學上與建立它們的 API 金鑰所屬組織綁定。當路由器將後續請求負載平衡到使用不同 API 金鑰的部署時，解密就會失敗。

• 含加密內容的 Responses API 請求： 路由到錯誤部署時完全失敗
• 初始請求： 不受影響 — 只有包含加密項目的後續請求會失敗
• 其他 API 端點： 無影響 — chat completions、embeddings 等功能正常

日期： 2026 年 2 月 23 日
期間： 約 3 小時
嚴重性： 高（適用於具有提供者萬用字元存取規則的使用者）
狀態： 已解決

摘要​

當將一個新的 Anthropic 模型（例如 claude-sonnet-4-6）加入 LiteLLM 模型成本對照表，並觸發成本對照表重新載入時，對新模型的請求會被拒絕，並顯示：

key not allowed to access model. This key can only access models=['anthropic/*']. Tried to access claude-sonnet-4-6.

重新載入正確更新了 litellm.model_cost，但從未重新執行 add_known_models()，因此 litellm.anthropic_models（供萬用字元解析器使用的記憶體內集合）仍然是舊資料。即使成本對照表已知曉該新模型，對 anthropic/* 萬用字元而言，它仍然是不可見的。

• LLM 呼叫： 所有對新加入 Anthropic 模型的請求都被 401 封鎖。
• 既有模型： 不受影響——只有在舊的提供者集合中缺失的模型受到影響。
• 其他提供者： 任何提供者萬用字元（例如 openai/*、gemini/*）都存在相同的錯誤類型。