載入中...
載入中...
BrewBytes AI 的 Threads build-in-public 案例:非硬體背景作者用 Codex / computer-use 流程把 Arduino Vibe Coding 鍵盤轉成 PCB。重點不是「AI 已取代硬體工程師」,而是把 schematic/layout/DRC/打樣變成低門檻探索;文章保留 EC-11、DRC、sign-off 與 debug caveat。
Threads 把 Taalas 說成把大模型燒進「鏡片」;較精確的說法是 model silicon / 專用晶片。Taalas 官方產品頁稱 HC1 可在 Llama 3.1 8B 上達到每位使用者 17k tokens/s;第三方報導也指出代價是彈性:晶片只服務特定模型。本文整理這類 AI ASIC 的速度、場景與風險。
Threads 討論 RTX 4060 8GB + 32GB DDR5 筆電跑 Qwen 35B A3B 長上下文的案例。耐人尋味的不是「小顯卡能跑大模型」,而是本地 LLM 的瓶頸正在轉向 KV cache、量化、RAM 頻寬、OS 與 mmap/mlock 等系統調校。