跳至主要內容

8 篇文章 含有標籤「llms」

檢視所有標籤

Day 0 支援:Meta Muse Spark 1.3

Misbah Syed
DevRel Engineer, LiteLLM
Mateo Wang
AI Engineer, LiteLLM
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM x Muse Spark 1.3

LiteLLM 現在透過 Meta Model API 上的 meta/ 路由,於 Day 0 提供 muse-spark-1.3 與 muse-spark-1.3-contributor。Meta 今天在 Muse Code 與 Model API 中推出 1.3,針對長期代理式與程式撰寫工作進行調校,並在內部回報相較於 1.2,大約少了 20% 的工具呼叫與 25% 的 token。

支援第 0 天:Gemini 3.8 Flash

Mateo Wang
AI Engineer, LiteLLM
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 與 Gemini 3.8 Flash

LiteLLM 現在在第 0 天就支援 gemini-3.8-flash,涵蓋 Google AI Studio(gemini/)與 Vertex AI(vertex_ai/)。Google 將其最新的 Flash 模型稱為主要通用模型,在長期軟體工程、代理式任務與多步驟推理方面,相較於 3.7 Flash 有所提升;而在 DeepSWE v1.1 上,它以僅一小部分成本超越了大多數更大型的前沿模型。

DAY 0 支援:LiteLLM 上的 Gemini 3.5 Flash

Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 現在完整支援 gemini-3.5-flash,並提供 day 0 支援!

備註

如果您只需要成本追蹤,您目前的 LiteLLM 版本無需變更。但如果您希望支援此版本新增的功能,也就是 thinking levels、strict function-call IDs,以及 thought signatures,請使用 v1.87.0-dev.1 或以上版本。

DAY 0 支援:LiteLLM 上的 Gemini 3.1 Flash Lite Preview

Sameer Kankute
SWE @ LiteLLM (LLM Translation)
Krrish Dholakia
CEO, LiteLLM
Ishaan Jaffer
CTO, LiteLLM

LiteLLM 現在完整支援 gemini-3.1-flash-lite-preview,具備完整的 day 0 支援!

備註

如果您只想進行成本追蹤,您目前的 Litellm 版本不需要任何變更。但如果您想使用隨之推出的新功能,例如 thinking levels,則需要使用 v1.80.8-stable.1 或以上版本。