回呼

使用回呼將輸出資料傳送到 Posthog、Sentry 等

liteLLM 提供 input_callbacks、success_callbacks 和 failure_callbacks，讓您能夠依據回應的狀態，輕鬆將資料傳送到特定提供者。

提示

剛接觸 LiteLLM 回呼？

• 關於 proxy/server 記錄與可觀測性，請參閱 Proxy 記錄指南。
• 若要撰寫您自己的回呼邏輯，請參閱 自訂回呼指南。

支援的回呼整合

• Lunary
• Langfuse
• LangSmith
• Helicone
• Traceloop
• Athina
• Sentry
• PostHog
• Slack
• Arize
• PromptLayer

這不是完整清單。請查看下拉式選單以取得所有記錄整合。

相關食譜

試試我們的食譜，取得程式碼片段與互動式展示：

• Langfuse 回呼範例（Colab）
• Lunary 回呼範例（Colab）
• Arize 回呼範例（Colab）
• Proxy + Langfuse 回呼範例（Colab）
• PromptLayer 回呼範例（Colab）

快速開始

from litellm import completion

# set callbacks
litellm.input_callback=["sentry"] # for sentry breadcrumbing - logs the input being sent to the api
litellm.success_callback=["posthog", "helicone", "langfuse", "lunary", "athina"]
litellm.failure_callback=["sentry", "lunary", "langfuse"]

## set env variables
os.environ['LUNARY_PUBLIC_KEY'] = ""
os.environ['SENTRY_DSN'], os.environ['SENTRY_API_TRACE_RATE']= ""
os.environ['POSTHOG_API_KEY'], os.environ['POSTHOG_API_URL'] = "api-key", "api-url"
os.environ["HELICONE_API_KEY"] = ""
os.environ["TRACELOOP_API_KEY"] = ""
os.environ["LUNARY_PUBLIC_KEY"] = ""
os.environ["ATHINA_API_KEY"] = ""
os.environ["LANGFUSE_PUBLIC_KEY"] = ""
os.environ["LANGFUSE_SECRET_KEY"] = ""
os.environ["LANGFUSE_HOST"] = ""

response = completion(model="gpt-3.5-turbo", messages=messages)