將模型儲存在 DB 設定
直接從管理員 UI 啟用或停用將模型定義儲存在資料庫中——無需編輯設定檔或重新啟動 proxy。這對於雲端部署特別有用，因為更新設定很困難，或需要很長的發行流程。
總覽
先前，store_model_in_db 設定必須在 proxy_config.yaml 下的 general_settings 中進行設定。變更它需要編輯設定並重新啟動 proxy，這對於無法直接存取設定檔，或想避免重啟造成停機的雲端使用者來說很有問題。
將模型儲存在 DB 設定 可讓您：
- 啟用或停用將模型儲存在資料庫中 – 控制模型定義是否快取在您的資料庫中（有助於減少設定檔大小並提升可擴充性）
- 立即套用變更 – 無需重新啟動 proxy；儲存後，設定會立即對新的模型操作生效
在 UI 中變更的設定會覆寫設定檔中的值。範例來說，如果 store_model_in_db 在 false 中設為 general_settings，在 UI 中啟用後仍會將模型定義持續寫入資料庫。當您想要在不重新部署的情況下進行執行階段控制時，請使用 UI。
將模型儲存在 DB 的運作方式
當 store_model_in_db 啟用時，LiteLLM proxy 會將模型定義儲存在資料庫中，而不是完全依賴您的 proxy_config.yaml。這帶來多項好處：
- 減少設定大小 – 將模型定義移出 YAML，便於維護
- 可擴充性 – 資料庫儲存比大型 YAML 檔案更能擴充
- 動態更新 – 無需編輯設定檔即可新增或更新模型
- 持久性 – 模型定義會在各個 proxy 實例與重啟之間持續保留
此設定會從您儲存的那一刻起套用到所有新的模型操作。
如何在 UI 中設定將模型儲存在 DB 中
1. 存取 Models + Endpoints 設定
前往管理員 UI（例如 http://localhost:4000/ui 或您的 PROXY_BASE_URL/ui），然後進入 Models + Endpoints 頁面。
2. 開啟設定
從導覽選單點選 Models + Endpoints。
3. 點選設定圖示
在 Models + Endpoints 頁面上尋找設定（齒輪）圖示以開啟設定面板。
4. 啟用或停用將模型儲存在 DB 中
依照您的偏好切換 Store Model in DB 設定：
- Enabled：模型定義會儲存在資料庫中
- Disabled：模型僅從設定檔讀取
5. 儲存設定
點選 Save Settings 以套用變更。無需重新啟動 proxy；新設定會立即對後續的模型操作生效。
使用情境
雲端與代管部署
當 proxy 在代管或雲端環境中執行時，設定可能位於不同的 repo、需要很長的發行週期，或由其他團隊控管。使用 UI 可讓您變更 store_model_in_db 設定，而不必經過部署流程。
降低設定複雜度
對於有數百個模型的大型部署，將模型定義儲存在資料庫中可減少 proxy_config.yaml 的大小與複雜度，讓維護與版本控制更容易。
動態模型管理
啟用 store_model_in_db 以支援動態新增與更新模型，無需編輯您的設定檔。團隊可透過 UI 或 API 管理模型，而不需要重新部署 proxy。
零停機更新
從 UI 變更設定並立即生效——非常適合必須將停機時間降到最低的正式環境。
相關文件
- Admin UI Overview – LiteLLM 管理員 UI 的一般指南
- Models and Endpoints – 管理模型與 API 端點
- Config Settings –
store_model_in_db於general_settings