MoyaiOpen source cloud agent

October 7, 2026

Hermes

Claude Code

Codex

OpenCode

Deep Agents

OpenAI

Anthropic

Fireworks

Google

xAI

Mistral

DeepSeek

Bedrock

Works with Claude Code and CodexSelf-hosted · 100+ providers through LiteLLM

[1]The problem
[2]The results: 79% cheaper
[3]Why we're open sourcing it
[4]A cloud agent that keeps working
[5]Any harness
[6]Any model, any provider
[7]Get started

Published: Oct 7, 2026

Ishaan JafferCTO, LiteLLMTin LoAI Product Engineer, LiteLLMMoe KhalilAI Product Engineer, LiteLLM

今天我們將 Moyai 開源，這是我們團隊每天都在使用的自架雲端代理程式。它可與 Claude Code 和 Codex 搭配運作，透過 LiteLLM 在 100+ 個提供者上執行，並能在您的筆電關機時，將來自 Slack 或瀏覽器的任務轉化為 pull request

問題

我們的 Devin 帳單在單一個月內就飆到 101,872 美元，而它僅供內部使用。這筆支出大多來自我們自家工程師啟動的 sessions 和自動化流程，使用的是我們無法控制的模型與路由

Devin 帳單儀表板顯示在 8 月 30 日到 9 月 29 日之間支出 101,872.24 美元，每日支出峰值超過 10,000 美元。

我們本來就有一個可跨 100+ 個提供者進行路由的 gateway。我們希望把編碼代理程式指向我們自己的模型與路由邏輯，並為推理付費，而不是為座位數付費

結果：便宜 79%

Moyai 每天以約 700 美元完成同樣的工作。以相同的 31 天來看，大約是 21,700 美元，而不是 101,872 美元，因此我們省下了單月帳單中約 80,000 美元

79% less$21,700 on Moyai vs $101,872 on Devin over the same 31 days, for the same output

Devin, running totalMoyai, running totalSaved

為什麼我們要將其開源

上週我們撰寫了如何在 2 天內打造我們自己的內部 Devin。回應幾乎都指向同一個問題：我們也可以執行它嗎？

現在您可以了。Moyai 就是我們在 LiteLLM 生產環境中執行的相同程式碼。將它部署在您自己的基礎架構上，指向您自己的 LiteLLM gateway，並把您的程式碼、憑證與支出留在您自己的帳戶中

持續運作的雲端代理程式

每個 session 都會獲得自己的雲端工作區，內含終端機、檔案系統與瀏覽器。代理程式會編輯程式碼、執行測試，並準備 pull request 供審查，整個過程都不會碰到任何人的筆電

Sessions 具有持久性。您可以從網頁應用程式一路跟進、在任務進行中送出修正，或隔天早上在 Slack 中接續先前的 thread。大型任務可以分派給多個平行的 worker agents，每個 agent 各自運行在自己的機器上，並在完成後再匯合

在 Slack 中開始一項任務。回來時看到一個 PR。

任何 harness

代理程式迴圈是一種選擇，而不是綁死。您可以從 composer 為每個 session 選擇 harness，Moyai 會在相同的隔離工作區中，以相同的工具、連線與權限執行它

Hermes 是預設選項。Claude Code、Codex、OpenCode 和 Deep Agents 都透過 LiteLLM agent SDK 執行，因此加入下一個 harness 只需要新增一筆 registry 項目，而不是重寫

任何模型、任何提供者

每一筆模型請求都會透過 LiteLLM。您可以在訊息之間將 GPT-6 Astra 切換為 Claude Opus 5.5 再切換為 GLM-5.3，而且每一筆請求都會歸屬到發送請求的隊友。提供者金鑰會保留在伺服器上；sandbox 永遠看不到它們

這代表開箱即用就支援 100+ 個提供者。如果 LiteLLM 能呼叫它，Moyai 就能使用它

開始使用

複製 repo，並在幾分鐘內試用本地示範，不需要 API 金鑰

git clone https://github.com/BerriAI/moyai.git
cd moyai
cp .env.example .env
uv sync --frozen
uv run uvicorn app.main:app --host 127.0.0.1 --port 8787 --workers 1

接著使用 Modal 和您的 LiteLLM gateway 設定雲端執行，並連接您的應用程式。到 GitHub 上的 repo 按下星號、開一個 issue，或寄給我們一個 PR。Moyai 很可能會審查它

MoyaiOpen source cloud agent

問題​

結果：便宜 79%​

為什麼我們要將其開源​

持續運作的雲端代理程式​

任何 harness​

任何模型、任何提供者​

開始使用​

問題