分類：llm-inference-hardware

LLM decoding 速度先看記憶體頻寬：RTX 5090、RX 7900 XTX、M3 Ultra、DGX Spark 的採購判斷

Threads 以記憶體頻寬解釋 token decoding 速度，提到 RX 7900 XTX、RTX 4090、M3 Ultra、DGX Spark、RTX 5090、RTX Pro 6000 的差異。本文用官方規格校正 DGX Spark 273 GB/s、Apple M3 Ultra over 800GB/s、RX 7900 XTX 960GB/s / effective 3500GB/s，並整理本地 LLM 採購判斷。