為 AI 探索加入使用者
v1.73.0 新增了將新使用者指派給預設團隊的功能。這讓在您公司內啟用 LLM 實驗變得容易許多,讓使用者可以登入並建立 $10 金鑰以進行 AI 探索。
1. 建立團隊
建立一個名為 internal exploration 的團隊,並設定:
models: 可存取特定模型(例如gpt-4o、claude-3-5-sonnet)max budget: 團隊最高預算將確保整個團隊的支出永遠不超過某個金額。reset budget: 將此設為每月。LiteLLM 會在每個月初重設預算。team member max budget: 團隊成員最高預算將確保個別團隊成員的支出永遠不超過某個金額。
2. 更新團隊成員權限
點選您剛建立的團隊,並更新 Member Permissions 下的團隊成員權限。
這將允許所有團隊成員建立金鑰。
3. 將團隊設為預設團隊
前往 Internal Users -> Default User Settings,並將預設團隊設為您剛建立的團隊。
我們也將預設模型設為 no-default-models。這表示使用者只能在團隊內建立金鑰。
4. 測試它!
讓我們建立一個新使用者並進行測試。
a. 建立新使用者
建立一個電子郵件為 test_default_team_user@xyz.com 的新使用者。
在您點選 Create User 後,您會收到一個邀請連結,請先儲存起來。
b. 驗證使用者已加入團隊
點選已建立的使用者,並驗證他們已加入團隊。
我們可以看到該使用者已加入團隊,且沒有預設模型。
c. 以使用者身分登入
現在使用 4a 的邀請連結以使用者身分登入。
d. 驗證在未指定團隊的情況下無法建立金鑰
您應該會看到一則訊息,表示您需要選擇一個團隊。
e. 驗證在指定團隊時可以建立金鑰
成功!
您現在應該會看到已建立的金鑰