📄️ Gradio 聊天機器人 + LiteLLM 教學
gradio-chatbot--litellm-tutorial}
📄️ provider_specific_params
設定提供者特定參數
📄️ 模型備援(提供者失敗轉移)搭配 LiteLLM
在 OpenAI、Anthropic 與 Azure 之間實作模型備援(提供者失敗轉移),讓失敗的提供者自動切換到備援。
📄️ 使用 completion() 搭配備援(Failover)以提升可靠性
使用 completion() 搭配模型備援(failover),讓失敗的提供者自動切換到備用模型,以取得可靠的回應。