AI 產業真正卡住的兩個底層瓶頸：context 還沒管好，compute 也還沒商品化

概要

這則 Threads 轉述 Stanford CS153: Frontier Systems 課堂中，Anthropic 早期投資人 Anj 的兩個觀點。這堂課本身很吸睛，講者包含 Jensen Huang、Sam Altman、Satya Nadella，被學生戲稱為「AI Coachella」；但真正值得記錄的，不是星度，而是他對 AI 產業瓶頸的判斷：

很多場景裡，context 可能比 model 本身更關鍵
compute 尚未 commodity 化，也不具真正 fungibility

這兩句放在一起看，很有力量，因為它們共同指出：

AI 產業現在的問題，不只是模型還不夠強，而是兩個更底層的系統條件都還沒成熟。

這篇真正的重點

1. 為什麼 code 跑得快？因為它容易驗證，不只是因為模型懂 code

這篇最有洞察的一點，是它把 code 領域進步快的原因重新解釋了一次。

很多人會說：

模型特別適合寫 code
code 資料多
code 結構清楚

這些都對，但 Anj 點出更根本的一點：

code 的最大優勢是它容易被驗證。

你可以：

跑測試
看編譯有沒有過
比對輸出
用靜態分析與執行結果判斷對錯

這讓模型在 code 場景中，不只是比較容易生成，也比較容易被工作流快速糾偏。

反過來說，像：

長篇寫作
美學創作
敘事結構
風格判斷

這些場景之所以進步沒那麼快，不一定是模型完全不懂，而是： 你很難建立一個清楚、低成本、可反覆自動驗證的 feedback loop。

2. 這意味著 context engineering 在很多場景裡比 model scale 更接近真正瓶頸

如果驗證與任務框架難以清楚定義，那模型是否能穩定表現，就會更依賴：

上下文給得對不對
規則有沒有保留下來
評估標準有沒有被嵌入工作流
任務記憶與背景是否持續可用

也就是說，在許多高價值場景中，真正的瓶頸未必是參數不夠，而是：

context 沒有被好好設計、保留與驗證。

這讓 context engineering 不再只是 prompt 小技巧，而更像 frontier system design 的核心。

3. H100 價格還在漲，說明 compute 根本還不是 commodity

第二個觀點同樣重要。直覺上很多人以為：

H100 推出這麼久了
GPU 應該越來越便宜
算力會像雲端儲存一樣慢慢 commodity 化

但實際觀察卻相反：

H100 問世兩年多，租賃價格最近反而在漲

這代表什麼？

算力目前不具真正 fungibility，也還遠未成為標準化商品。

也就是說，不是所有 GPU 都能互換，不是所有供應都能自由流動，也不是價格自然會隨時間快速下滑。

4. compute 不可替代，會讓 AI 成本結構與競爭格局長期維持扭曲

如果 compute 不是 commodity，就表示：

領先者可以鎖定更好資源
新進者不只是比模型，還要比資源取得能力
成本曲線不會像傳統軟體那樣自然下彎
AI 產業仍帶有很重的基礎設施稀缺性

這也呼應了前面一些觀察：

frontier model race 其實也是 infra race
compute economics 仍未定型
大模型公司的單位經濟壓力不會很快自然消失

對 Allen / AI 產業觀察的啟發

這篇最值得吸收的，是它把很多零散問題收斂成兩個底層未解：

模型是否真正能做事，常取決於 context 與驗證鏈，而不只是 benchmark
AI 成本是否會下降，常取決於 compute 是否真正 commodity 化，而目前遠未如此

也就是說，未來 AI 下半場不只是在比：

誰模型更強

還在比：

誰能把 context 管得更好
誰能拿到更穩、更便宜、更可預測的算力

一句話總結

這則 Threads 真正值得記錄的，不只是 Stanford 課堂很豪華，而是它提醒：AI 產業現在真正卡住的，不只是模型能力，而是兩個更底層的系統問題——context 還沒被有效管理，compute 也還沒真正商品化。