不用反向传播做预训练:Noise 挑战赛十天被社区提速 4000 倍
Crazy-Repeat-2006 · reddit · 2026-10-23
qlabs 推出 Noise:一个限定模型、数据与评分的预训练 speedrun,规则是全程不运行任何反向传播,分两条赛道比拼能把 validation loss 压到多低、多快。官方基线 Dust 的成绩为 4.167。
上线仅十天,社区提交把速度提升了超过 4000 倍:不跑 backward pass 达到 validation loss 4.2 的时间从 1.76 小时缩短到 1.6 秒。官方此前估计在 Dust 之上还有约 1000 倍的提速空间,没想到十天就被突破。
所属事件:无反传预训练十天提速4000倍至1.6秒(6 条相关)→
「编程与Agent」频道最新
- 清华 THU-KEG 发布 RIDAR:自动检测并干预科研智能体造假行为 — THU-KEG · 2026-10-23
- 一个尾点破防 Copilot:VS 与 SSMS 修复 RCE 漏洞 CVE-2026-103572 — wunderwuzzi23 · 2026-10-23
- 开发者用 OpenAI Realtime API 语音控制机械臂:仿真实训技能+视觉定位玩井字棋 — Tarun122 · 2026-10-23
- 同一份 LoRA 微调 Qwen3.5 全系:9B 反超 27B,收益几乎全靠学会说「无关系」 — spilldahill · 2026-10-23
- 200 个并发 LLM agent 跑在 1GB 内存、$6/月的 VM 上:瓶颈是自家的保存锁 — swarmagent · 2026-10-23
- 给 AI 配手机:机架+机械臂方案帮 Agent 绕开 App 风控 — TinfoilTricorn · 2026-10-23