標籤：local-llm

Hugging Face speech-to-speech：OpenAI Realtime 相容的本地語音 Agent 管線（全本地 caveat）

Hugging Face 的 speech-to-speech repo 是 Apache-2.0 的本機語音 agent pipeline，串起 VAD → STT → LLM → TTS，提供 OpenAI Realtime-compatible WebSocket。它可以 fully local，但預設 quickstart 仍用 OpenAI-compatible LLM API；若要完全本地，需要另跑 llama.cpp/vLLM/MLX-LM 等 LLM backend，並注意模型授權與 GPU/Apple Silicon/CUDA 相容性。