NanoGPT 速度跑纪录从 39.9 秒骤降至 6.7 秒,降幅超历年总和
tatsu_hashimoto · x · 2026-10-29
Herman Brunborg 将 NanoGPT Speedrun 纪录从 39.9 秒优化到 6.7 秒,降幅 83.2%,超过 2025 年以来所有纪录降幅之和(-81.4%)。Stanford 教授 Tatsunori Hashimoto 转发并称「完全离谱的进步」,回忆 Herman 在 CS336 排行榜上的统治表现。
技术核心:针对网络中大量罕见且重复出现、语言模型来不及记忆的内容,采用「检索增强的 n-gram 提示」方案。Hashimoto 还指出一个反直觉观察:nanoGPT 的重大进展竟来自「人类借助 AI」而非自动化研究(autoresearch)。
配图为 Artificial Analysis Intelligence Index v5.0 榜单,涵盖 AA-Briefcase、Terminal-Bench 4.0、FrontierCode 2.0 等九项评测,Gemini 3 / Claude Opus 4.5 / GPT-5.2 等居前列。
「Infra」频道最新
- 本地推理更划算的选择:上 RTX A6000 eGPU 盒子,而非 $22k 设备 — beffjezos · 2026-10-29
- 新工具 Boat 把 CI 搬上云 VM:同预算宣称可扩展 20 倍 — zack_overflow · 2026-10-29
- Perplexity CEO 背书新公司 Particle:专攻开源模型 token 与服务成本优化 — garrytan · 2026-10-29
- Oracle 定下 FY29 自由现金流 300 亿美元目标,年内股价先跌 33% 后涨 9.6% — rohanpaul_ai · 2026-10-29
- EagleCorp 实测 Nemotron 3.5 Super VL:单请求吞吐达原版 2.74 倍 — NVIDIAAI · 2026-10-29
- 视频演示本地运行 DeepSeek V4.1 Flash,算本地部署成本账 — RelevantEmergency707 · 2026-10-29