NVIDIA Nemotron 3.5 ASR：把語音辨識搬回本機的 0.6B 串流模型

多語言、串流式 ASR。它把語音轉文字做成可以放進 voice agent / teleprompter / 離線工具鏈的本機元件，而不是只能呼叫雲端 STT API。

600M 參數；Encoder 是 Cache-Aware FastConformer，Decoder 是 RNNT。cache-aware streaming 的價值是少做重複計算，讓 chunk-by-chunk 的即時轉錄更有效率。

Hugging Face model card metadata 列出 35 種語言代碼；正文描述為 40 language-locales。支援中文代碼 zh，但台語、口音、code-switching 仍不能直接等同保證。

可用 NeMo 載入；LiveKit 範例把它包成 OpenAI-style /v1/audio/transcriptions 與 WebSocket 串流端點，因此既能接一般 OpenAI-compatible client，也能進 LiveKit Agents。

語音 agent 的體驗瓶頸常在 turn-taking：人講話、系統收音、ASR 出 partial transcript、LLM 開始思考、TTS 回話。ASR 如果只能等整句結束才輸出，整個互動就會慢半拍。Nemotron 3.5 ASR 的串流與 partial transcript 能讓 pipeline 更早取得文字。

本機 STT 可以降低隱私風險、避免每分鐘計費、支援離線或內網場景。對會議摘要、電話提醒、桌面助理、醫療/客服內網原型來說，這比單純 benchmark 好看更有用。

ASR 的可用性不只取決於參數量。更重要的是語言/口音覆蓋、噪音魯棒性、endpoint latency、partial transcript 穩定性、標點/大小寫、可否熱詞或 domain adaptation。

不要只問「比 Whisper 強嗎」。更實際的測法是：同一批中文/英文/中英夾雜/噪音音檔，分別比較 WER/CER、first partial latency、final latency、CPU/MPS/GPU 資源、標點品質與長音檔穩定性。