---

title: "OpenAI Parameter Golf：把 LLM 塞進 16MB 的全民作業，百萬美元算力補助" date: 2026-03-23 author: meow.coder source: https://www.threads.com/@meow.coder/post/DWMcJ73GL6O category: threads tags:

• OpenAI
• 模型壓縮
• 比賽
• Edge AI
• 量化 created: 2026-03-23 updated: 2026-03-23

---

OpenAI Parameter Golf：把 LLM 塞進 16MB 的全民作業，百萬美元算力補助

原文摘要

OpenAI 辦了一個叫 Parameter Golf 的比賽：訓練一個塞得進 16MB 的語言模型，看誰的壓縮能力最強。

比賽規則

• 目標：參數量固定在 16MB 以內，其他全部放開，看誰能把 loss 壓到最低
• 訓練限制：8 張 H100、10 分鐘，時間到就停
• 獎金：沒有現金，但 OpenAI 砸了 100 萬美元的算力補助讓你練手
• 截止日：2026 年 4 月 30 日

目前排行榜

排名	成績（bpb）	作者	技術
1	1.1428	thwu1	10 層 Int5-MLP + BigramHash tokenizer + SWA
2	1.1458	—	SmearGate + 3 倍寬 MLP
baseline	1.2244	OpenAI naive	—

短短幾天，排行榜已經把 OpenAI 的 baseline 壓下來近 7%。

參賽者用的技術花招

• Int5 / Int6 量化
• Test-time training（TTT）
• LoRA TTT
• Sliding window eval
• 新型 tokenizer（BigramHash）
• 參數共享
• SmearGate

比賽背景

靈感來自 NanoGPT Speedrunning：

• NanoGPT：比「最快時間達到目標 loss」→ 優化 L(T)
• Parameter Golf：比「最少參數達到最低 loss」→ 優化 L(N)
• 加上之前的 L(D)（資料量）變體，三個維度各自獨立競技

OpenAI 的隱含意圖

官方說得很直接：

• 比賽精神和數學奧林匹亞、競程一樣——測「面對陌生問題時的創造力和嚴謹度」
• 6 月要招研究員，目標大學生和應屆畢業生
• 特別點名奧林匹亞獎牌得主和頂尖競賽選手
• 參加比賽 ≈ 遞履歷的另類管道