跳至主要內容

2 篇文章 含有標籤「lens」

檢視所有標籤

LiteLLM Lens 如何在 1,000 多個代理程式追蹤中找出重複失敗

Moe Khalil
AI Product Engineer, LiteLLM

研究代理程式在讀完每個頁面的前 8,000 個字元後,就能完成一份報告。如果其網頁工具在來源中途截斷,而代理程式自行補齊空缺,您就會得到一個完成的執行,卻帶有未經證實的主張。

在成千上萬次執行中,您需要找出受影響的工作階段,以及它們的共同點。LiteLLM Lens 使用代理程式來完成這項工作。

以下說明其幕後運作方式:審查者會平行檢視執行結果,分組代理程式會連結相關觀察,而調查員會將每個候選模式與原始追蹤結果比對。

推出 LiteLLM Lens

Ishaan Jaffer
CTO, LiteLLM
Moe Khalil
AI Product Engineer, LiteLLM
Tin Lo
AI Product Engineer, LiteLLM
Yujong Lee
Senior SWE, LiteLLM
October 1, 2026

LiteLLM Lens

Agent swarms200K+ traces from every agent
LiteLLM gatewayevery call, one chokepoint
Lensinsight flows back to your agents

協助您的代理程式持續進步的閘道

  1. [1]The agentic swarm developer
  2. [2]The problem
  3. [3]Our solution
  4. [4]Launch partners
  5. [5]Get started
Published:
Ishaan JafferCTO, LiteLLMMoe KhalilAI Product Engineer, LiteLLMTin LoAI Product Engineer, LiteLLMYujong LeeSenior SWE, LiteLLM

今天我們要推出 LiteLLM Lens。告訴 Lens 要在您的代理程式中尋找什麼,讓它分析您的追蹤,然後閱讀發現並深入查看任何追蹤

代理程式式群體開發者​

我們正在為這樣的未來打造:開發者運行代理程式式群體——數百個代理程式平行運作,每個都進行 LLM 和工具請求,合計產生 20 萬筆以上追蹤

LiteLLM 已經是您企業 100% AI 流量的瓶頸,因此那些請求中的每一個都已經流經這個閘道