在 LiteLLM 上開始使用 Fireworks AI
Fireworks AI 是最大的開放模型推論平台之一，每天為包括 Uber、Notion、DoorDash 和 Cursor 在內的公司處理超過 40 兆個 token。LiteLLM 是使用最廣泛的開源 AI 閘道，容器拉取次數超過 5 億次。兩者結合後，您可以在單一 OpenAI 相容端點後方使用快速、低成本的開放模型，並追蹤您花費的每個 token。
1 篇文章 含有標籤「providers」
檢視所有標籤Fireworks AI 是最大的開放模型推論平台之一，每天為包括 Uber、Notion、DoorDash 和 Cursor 在內的公司處理超過 40 兆個 token。LiteLLM 是使用最廣泛的開源 AI 閘道，容器拉取次數超過 5 億次。兩者結合後，您可以在單一 OpenAI 相容端點後方使用快速、低成本的開放模型，並追蹤您花費的每個 token。