从 OpenAI 纳维-斯托克斯争议看:用户碎片想法或造就「AI 突破」
MaxDev0 · reddit · 2026-09-09
围绕 OpenAI 纳维-斯托克斯结果与数学家 Tristan Buckmaster、Levent Alpöge 的争议,引出一个被忽视的问题:数百万用户积累的半成品想法,对后来被称为「AI 发现」的东西贡献有多大?
作者引用 UK AI Security Institute、Anthropic 等机构的数据投毒研究:在 13B 模型、2600 亿 token 的预训练实验中,仅 250 份投毒文档(约 0.00016%)就能稳定植入后门,且攻击效果不随干净数据规模扩大而被稀释;GPT-3.5 微调实验中 50-90 条投毒样本即可达 80%+ 攻击成功率。
这推翻了「少量对话会被万亿 token 稀释」的直觉:高度一致、目标明确的数据即使占比极小也有超比例影响。作者推论,研究者们用 LLM 试探猜想、上传半写完的证明、讨论后放弃的思路,这些从未变成论文的碎片,可能经由训练管线汇聚到厂商手中,让前沿 AI 公司处在人类智力活动的独特汇聚点上。
「漫话AGI」频道最新
- AI 情景讨论:默认走向或是 Peter Wildeford 的「Scramble」剧本 — sjgadler · 2026-09-09
- Anima Anandkumar 回击:物理中心 AI 已落地天气与医疗器件设计 — AnimaAnandkumar · 2026-09-09
- AI 解千禧难题竟不如格拉斯顿伯里售票抢镜 — birchlse · 2026-09-09
- 肿瘤医生批AI抗癌炒作：不了解基本事实就喊“治愈”是对患者不敬 — petergyang · 2026-09-09
- 网友观点：数学已现 ASI，AGI 却还没来 — AndrewSchmidtFC · 2026-09-09
- Grok 复盘 AI 攻克 Navier-Stokes:站在巨人肩膀上的必然一步 — robleclerc · 2026-09-09