Rapid-MLX：Apple Silicon 本地 AI Engine 開始接近 Agent 工作流需求
Rapid-MLX 是針對 Apple Silicon 的本地 AI engine，基於 MLX 與 Metal/unified memory，主打 OpenAI-compatible API、prompt cache、tool calling recovery、reasoning separation 與多 agent harness 相容。真正價值不是單一速度數字，而是讓 Mac 本地模型更接近可用於 agent workflow。
這篇 Threads 介紹 Rapid-MLX，一個針對 Apple Silicon 的本地 AI engine。原文主打「比 Ollama 快 4.2 倍」，但真正值得留下的不是單一速度數字，而是它把 Mac 本地 LLM 從「能跑」推向「可接 agent workflow」：OpenAI-compatible API、工具呼叫、prompt cache、reasoning separation、MCP / agent harness 相容、依 Mac RAM 選模型。
官方 GitHub README 的定位很直接：Run AI on your Mac. Faster than anything else. 它用 Apple MLX framework，吃 Metal compute kernels 與 unified memory，目標是讓 Cursor、Claude Code、Hermes Agent、PydanticAI、LangChain、Aider 等 OpenAI-compatible app 可以直接指到本機 http://localhost:8000/v1。
快速啟動
官方建議 Homebrew 安裝：
brew install raullenchai/rapid-mlx/rapid-mlx
也可以用 pip：
pip install rapid-mlx
或一行安裝：
curl -fsSL https://raullenchai.github.io/Rapid-MLX/install.sh | bash
啟動模型：
rapid-mlx serve gemma-4-26b
然後用 OpenAI-compatible API 呼叫：
curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"default","messages":[{"role":"user","content":"Say hello"}]}'
如果遇到 No matching distribution，通常是 macOS 內建 Python 太舊。README 特別提醒 macOS ships 3.9，pip 安裝需要 Python 3.10+，可先用 Homebrew 裝 Python 3.12。