標籤：h100

GPU 抵押品風險：銀行借錢給 AI 資料中心的隱形未爆彈

CODA：把 Transformer 周邊運算塞進 GEMM epilogue，少搬資料才是真加速

CODA 將 Transformer 的 normalization、activation、residual update、reduction 等 memory-bound 周邊運算改寫成 GEMM-plus-epilogue programs，趁 GEMM output tile 還在 chip 上時完成計算，減少 global memory round-trip。真正啟發在於用受限 composable API 讓 GPU kernel 最佳化更可被 LLM / 工程師組合。