跳至主要內容

A2A 代理程式成本追蹤

LiteLLM 支援為 A2A 代理程式新增自訂成本追蹤。您可以設定:

  • 每次查詢固定成本 - 針對每個代理程式請求收取固定成本
  • 依輸入/輸出 token 計費 - 根據 token 使用量變動的成本

這可讓您在整個組織中追蹤並歸屬代理程式使用成本,方便查看各團隊或專案在代理程式呼叫上的支出。

快速開始

1. 前往 Agents

從側邊欄點選「Agents」以開啟代理程式管理頁面。

前往 Agents

2. 建立新的代理程式

點選「+ Add New Agent」以開啟建立表單。您需要提供幾個基本細節:

  • Agent Name - 您代理程式的唯一識別碼(用於 API 呼叫)
  • Display Name - 在 UI 中顯示的人類可讀名稱

輸入 Agent Name

輸入 Display Name

3. 設定成本設定

向下捲動並點選「Cost Configuration」以展開成本設定面板。您可以在這裡定義代理程式使用要收取多少費用。

點選 Cost Configuration

4. 設定每次查詢成本

輸入每次查詢的成本金額(以美元計)。例如,輸入 0.05 表示對此代理程式的每次請求將收取 $0.05。

設定每次查詢成本

輸入成本金額

5. 建立代理程式

完成所有設定後,點選「Create Agent」以儲存。您的代理程式現在已可使用,且已啟用成本追蹤。

建立代理程式

測試成本追蹤

讓我們透過 Playground 傳送測試請求,確認成本追蹤是否正常運作。

1. 前往 Playground

點選側邊欄中的「Playground」以開啟互動式測試介面。

前往 Playground

2. 選取 A2A Endpoint

預設情況下,Playground 使用 chat completions endpoint。若要測試您的代理程式,請點選「Endpoint Type」並從下拉選單中選取 /v1/a2a/message/send

選取 Endpoint Type

選取 A2A Endpoint

3. 選取您的代理程式

現在從代理程式下拉選單中選取您剛建立的代理程式。您應該會看到它以顯示名稱列出。

選取代理程式

4. 傳送測試訊息

輸入訊息並按下送出。您可以使用建議的提示,或自行撰寫。

傳送訊息

當代理程式回應後,該請求會以您設定的成本記錄下來。

代理程式回應

在記錄中查看成本

現在讓我們確認成本是否確實已被追蹤。

1. 前往記錄

點選側邊欄中的「Logs」以查看所有近期請求。

前往記錄

2. 查看成本歸屬

在清單中找到您的代理程式請求。您會看到成本欄位顯示您設定的金額。此成本現在已歸屬到發出該請求的 API 金鑰,因此您可以按團隊或專案追蹤支出。

在記錄中查看成本

在用量頁面查看支出

前往 Admin UI 中的 Agent Usage 分頁以查看代理程式層級的支出分析:

1. 存取 Agent Usage

前往 Admin UI(PROXY_BASE_URL/ui/?login=success&page=new_usage)中的 Usage 頁面,並點選 Agent Usage 分頁。

2. 查看代理程式分析

Agent Usage 儀表板提供:

  • 每個代理程式的總支出:查看所有代理程式的彙總支出
  • 每日支出趨勢:查看代理程式支出如何隨時間變化
  • 模型使用明細:了解每個代理程式使用哪些模型
  • 活動指標:追蹤每個代理程式的請求、token 與成功率

3. 依代理程式篩選

使用代理程式篩選下拉選單查看特定代理程式的支出:

  • 從下拉選單中選取一個或多個代理程式 ID
  • 查看篩選後的分析、支出記錄與活動指標
  • 比較不同代理程式之間的支出

成本設定選項

您可以依據您的定價模型混合搭配這些選項:

欄位說明
每次查詢成本 ($)針對每個代理程式請求收取的固定成本
每個輸入 token 成本 ($)每處理一個輸入 token 的成本
每個輸出 token 成本 ($)每產生一個輸出 token 的成本

對大多數使用情境而言,每次查詢固定成本最為簡單。若您的代理程式成本會因輸入/輸出長度而有顯著差異,請使用以 token 為基礎的定價。