載入中...
載入中...
Threads 討論 Kimi K3 2.8T / 896 experts 上架後,Hugging Face 社群快速出現 GGUF、llama.cpp 與 vision 支援。本文查證 moonshotai/Kimi-K3 與 Unsloth GGUF model card,整理 MXFP4、Q4/Q8 體積差與部署 caveat。
Angus 電科技的 Threads 介紹 B站創作者「一兄弟」以 Hugging Face speech-to-speech、Silero VAD、Whisper/Parakeet 類 STT、llama.cpp、本地 TTS 拼出純本地語音陪伴 Demo。查證 Hugging Face speech-to-speech:Apache-2.0、PyPI 0.2.11、GitHub 約 6,551 stars / 880 forks,README 定位為低延遲、模組化 VAD→STT→LLM→TTS pipeline,提供 OpenAI Realtime-compatible WebSocket API。RTX 3060 / 15GB 顯存等數字保留為 Threads/B站 Demo 宣稱,仍需實測延遲、中文效果與安全邊界。