GPUtw Skill+MCP:讓 Claude/Codex 部署台灣 GPU,但關機、scope 與費用閘門不能省 | Allen 知識庫 | Allen 知識庫
GPU Cloud · Agent Skills · MCP · Taiwan
GPUtw Skill 讓 Claude/Codex 看懂台灣 GPU 雲端;真正能動手操作的是 beta MCP Server
GPUtw 官方推出 V1.1.0-beta.1:一部分是讓 Coding Agent 理解 REST API、錯誤碼與安全規則的知識 Skill;另一部分是提供 18 個型別化工具的 MCP Server,可部署、監控、停止 GPU instance、搬移 Vault 資料與診斷問題。
不要混為一談:Markdown Skill 本身主要提供知識、決策樹和可執行範例,不會自動取得 GPU 控制權;安裝 MCP 並配置 GPUTW_API_KEY 後,Agent 才能直接呼叫 GPUtw。MCP 目前仍是 beta。
18 個 MCP 工具分成四類
| 類別 | 工具/能力 | 風險等級 |
|---|
| 目錄 | 列 GPU、可用 nodes、templates、部署選項 | 唯讀 |
| Instance | 建立、停止、刪除、重啟 instance | 建立會計費;刪除屬 destructive |
| 狀態 | status、resources、logs、events | 唯讀,但可能含敏感 log |
| Vault | 列表、容量、上傳、下載 Hugging Face/URL 模型、查下載狀態 | 會搬移資料並消耗儲存/流量 |
| 可選 root exec | exec-in-instance | 預設不註冊;只有設定 GPUTW_MCP_ALLOW_EXEC=1 才出現 |
它比「幫我開一台 GPU」多做了什麼
- 先查供應:
/gpus/active → /nodes/available,不能把 GPU catalog ID 直接當成 nodeId。
- 檢查架構:DGX Spark 是 arm64,範本/容器架構必須相容;不能把「DGX Spark+RTX 5090」當成同一台可任意拼裝的 instance。
- 明確狀態機:建立後以個別 instance 輪詢到 、 或 。
/status
RUNNING
FAILED
INSUFFICIENT_FUNDS
資料持久化:模型、dataset 與結果應放 /vault;/workspace 隨 instance 刪除可能消失。失敗診斷:依序讀 deploy phase、failure reason、events、previous logs,不是盲目重建。流程結尾關機:任何自動化必須在 finally/CI always() 執行 stop 或 delete,因為 RUNNING 會持續扣點。Skill/MCP 的安全設計
- API key 只從
GPUTW_API_KEY 環境變數讀取,不應放 query string、程式碼或 log。
- API key 有 17 種 scopes 與 readonly/deploy/operator/upload/full presets,可做最小權限。
instances:exec 能在容器內以 root 執行,應使用短期專用 key,用完撤銷,不能放進共用 CI。
- 工具將 read/write/destructive 做分類;delete 前仍需人工或政策層確認。
- 監控資料若
usage.source == none,null 不代表 GPU 使用率為零;否則會誤觸閒置關機。
- 未驗證的 Jupyter/ComfyUI 不應直接用 raw TCP 公開;應使用 private/unlisted HTTP exposure 與密碼。
「端對端加密」要精確:HTTPS/SSH 能保護傳輸中資料,但不自動等於資料在 GPU instance、Vault、暫存檔和 log 裡皆端到端加密。醫療、個資或客戶機密還要確認靜態加密、金鑰管理、留存期限、存取稽核、資料所在地與刪除流程。
安裝方式
# Claude Code plugin:Skill + MCP
/plugin marketplace add GPUtw-ai/GPUtw-Skill
/plugin install gputw@gputw
只安裝 MCP
claude mcp add gputw -s user
-e GPUTW_API_KEY=gputw_live_xxx
-- npx -y @gputw/mcp-server@latest
正式環境不建議長期使用 @latest;beta 階段應固定 npm/Git tag,先在低權限測試帳號驗證工具 schema、停止流程及費用上限。外掛與手動安裝同名 Skill 也可能互相遮蔽,官方要求兩種方式擇一。
對 BigIntTech/Hermes 的建議架構
| 層 | 建議 |
|---|
| Planner | 只決定 workload、VRAM、架構、時間與最高預算,不持有 full key。 |
| Provisioner | 使用 deploy preset 建立 instance;建立成功後回傳 instance ID 與價格。 |
| Worker | 透過 Vault 取得 dataset/模型、執行訓練或 ComfyUI/vLLM workload;exec key 獨立且短期。 |
| Watchdog | 輪詢 status/resources,設定最大執行時間、低使用率 grace period 與餘額門檻。 |
| Closer | 無論成功、失敗、逾時或 Agent 中斷,都執行 stop;刪除前確認輸出已寫回 Vault。 |
適用場景與限制
- 適合:模型微調、YOLO、Unsloth、ComfyUI、llama.cpp、vLLM、短期 benchmark 與台灣本地 GPU burst。
- 仍需人工決策:醫療資料、長期高額租用、刪除 instance、公開網路服務、full scope key 與 root exec。
- 不是訓練框架:Skill 能部署和操作算力,但模型品質、dataset、evaluation、checkpoint 與 MLOps 還是另一層工作。
成熟度快照(2026-09-16)
- 官方 repo:
GPUtw-ai/GPUtw-Skill,MIT License。
- V1.1.0-beta.1 release 發布於 2026-09-15;MCP 明確標示 beta。
- Repo 建立時間很新、約 15 stars,尚不代表經過大量生產環境驗證。
- Skill 內建公開 API 契約、12 份整合指南、stdlib Python client、shell examples 與 CI 驗證。
關聯文章
來源