跳至主要內容

6 篇文章 含有標籤「openai」

檢視所有標籤

首日支援：GPT-5.4-mini 與 GPT-5.4-nano

Sameer Kankute
Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaff
Ishaan Jaff
CTO, LiteLLM

LiteLLM 現已支援 GPT-5.4-mini 與 GPT-5.4-nano——適合簡單完成與高吞吐量工作負載的高成本效益模型。

備註

如果您使用的是 v1.82.3-stable 或以上版本，則不需要任何更新即可使用這些模型。

使用方式​

1. 設定 config.yaml

model_list:
  - model_name: gpt-5.4-mini
    litellm_params:
      model: openai/gpt-5.4-mini
      api_key: os.environ/OPENAI_API_KEY
  - model_name: gpt-5.4-nano
    litellm_params:
      model: openai/gpt-5.4-nano
      api_key: os.environ/OPENAI_API_KEY

2. 啟動 proxy

litellm --config /path/to/config.yaml

3. 測試

# GPT-5.4-mini
curl -X POST "http://localhost:4000/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $LITELLM_KEY" \
  -d '{
    "model": "gpt-5.4-mini",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

# GPT-5.4-nano
curl -X POST "http://localhost:4000/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $LITELLM_KEY" \
  -d '{
    "model": "gpt-5.4-nano",
    "messages": [{"role": "user", "content": "What is 2 + 2?"}]
  }'

注意事項​

  • 這兩個模型都支援函式呼叫、視覺與工具使用——請參閱 OpenAI 提供者文件 以了解進階用法。
  • GPT-5.4-nano 是簡單工作最具成本效益的選項；GPT-5.4-mini 則在速度與能力之間取得平衡。