跳至主要內容

1 篇文章 含有標籤「model-access」

檢視所有標籤

事件報告:成本對照表重新載入後,萬用字元封鎖新模型

Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

日期: 2026 年 2 月 23 日
期間: 約 3 小時
嚴重性: 高(適用於具有提供者萬用字元存取規則的使用者)
狀態: 已解決

摘要

當將一個新的 Anthropic 模型(例如 claude-sonnet-4-6)加入 LiteLLM 模型成本對照表,並觸發成本對照表重新載入時,對新模型的請求會被拒絕,並顯示:

key not allowed to access model. This key can only access models=['anthropic/*']. Tried to access claude-sonnet-4-6.

重新載入正確更新了 litellm.model_cost,但從未重新執行 add_known_models(),因此 litellm.anthropic_models(供萬用字元解析器使用的記憶體內集合)仍然是舊資料。即使成本對照表已知曉該新模型,對 anthropic/* 萬用字元而言,它仍然是不可見的。

  • LLM 呼叫: 所有對新加入 Anthropic 模型的請求都被 401 封鎖。
  • 既有模型: 不受影響——只有在舊的提供者集合中缺失的模型受到影響。
  • 其他提供者: 任何提供者萬用字元(例如 openai/*gemini/*)都存在相同的錯誤類型。