載入中...
Allen KB Articles
共 11 篇;目前第 1 / 1 頁,每頁 24 篇。
Redis LangCache 在 LLM 呼叫前先搜尋語意相近的既有回答,命中時直接回傳,未命中才呼叫模型並寫回快取。官方主打最高節省 90% API 成本,但實際效益取決於重複率、相似度門檻、TTL、資料隔離與失效策略;目前文件仍標示 preview,社群提到的 15 倍速度應視為情境化宣稱,而非普遍保證。
VoiceStudio 是 active-beta 的 local-first 語音工作台,整合 16 TTS、11 ASR、voice cloning、video dubbing、OpenAI-compatible API 與 MCP。本文校正 646 語言與 CPU 慢 3 倍等說法,整理 Apple Silicon/Windows/Linux 條件、MCP 安全、AGPL 與模型權重個別授權風險,以及 BigIntTech 語音客服/影音產線的 PoC 建議。
Hugging Face 的 speech-to-speech repo 是 Apache-2.0 的本機語音 agent pipeline,串起 VAD → STT → LLM → TTS,提供 OpenAI Realtime-compatible WebSocket。它可以 fully local,但預設 quickstart 仍用 OpenAI-compatible LLM API;若要完全本地,需要另跑 llama.cpp/vLLM/MLX-LM 等 LLM backend,並注意模型授權與 GPU/Apple Silicon/CUDA 相容性。
OpenFormosa BlueMagpie-TTS 是面向台灣口音與中英混合語境的開源 TTS 模型,保留 VoxCPM 聲學架構並換上 Barbet 文字語意模型;官方提供 GitHub、Hugging Face 模型與 Demo,但也提醒授權與人工審核邊界。
NVIDIA Nemotron 3.5 ASR 是 600M 參數、支援多語言與串流輸出的 ASR 模型。它的價值不只是小,而是把低延遲、離線、可插入 agent pipeline 的語音輸入層變得更可部署;但 CPU、台語、雙語混雜與授權條款仍要另外測試。
VibeVoice 是 Microsoft 開源語音模型家族:ASR 支援 60 分鐘長音檔;TTS 支援 90 分鐘與 4 speaker;Realtime 0.5B 主打串流 TTS。新增社群補充:它對一人工作室與多角色長篇音訊很有想像空間,但 voice cloning、商用與深偽風險必須按官方限制處理。
Dograh 是開源、可自架的 Vapi / Retell 替代方案,主打拖拉式語音代理流程、BYOK 模型供應商、STT/LLM/TTS 組合與電話整合;適合需要資料控制與流程透明度的客服語音 AI 原型。
Threads 指向 OpenAI「Delivering low-latency voice AI at scale」。重點是 OpenAI 為 Realtime Voice AI 使用 WebRTC 並設計 relay + transceiver 架構來解 Kubernetes / UDP / session routing 問題;但 MoQ 社群也指出 WebRTC 的低延遲丟包策略、缺乏緩衝與 8+ RTT 握手,未必是 Voice AI 長期最佳解。
這篇整理 Cheng 的 2026/05/10 AI 科技摘要:Subquadratic 的超長上下文、OpenAI 即時語音推理、Cursor Canvas、JPMorgan 將 AI 歸為基礎設施,以及 AWS MCP Server GA。耐看的重點不是單一新聞,而是 AI 正從「能做什麼」轉向「如何嵌入既有系統」。
整理 OpenAI 新一批 Realtime 語音 API:gpt-realtime-2、gpt-realtime-translate、gpt-realtime-whisper。重點不是單純語音升級,而是語音互動被拆成可計量、可替換、可組合的 API 基礎設施。