AI 减速难在哪:没人能验证对手是否真的在减速
SiteSpecialist6295 · reddit · 2026-09-13
Dario Amodei 发文呼吁前沿实验室放慢能力进展,Sam Altman 表示 OpenAI 将使用独立评估方,Elon Musk 也表态支持。Reddit 讨论指出真正的难题在执行验证:
- 若 A 实验室减速而 B 悄悄加速,减速就等于投降;即使无人恶意,相互不确定也足以让竞赛继续。
- 与核军控不同,AI 缺乏可核查的物理设施:训练在私企内部进行,权重可能泄露,能力提升可来自软件改进或小团队微调。
- 作者提出第一步不是全球暂停,而是建立有足够访问权限的独立审查机制,在他方暗中加速被默认之前发现它。
「漫话AGI」频道最新
- Timnit Gebru:AI 公司炒作灭绝论,回避自主武器等现实危害 — WellsLucasSanto · 2026-09-13
- Ethan Mollick:组织低估 AI 进步,AI 圈低估现实落差 — emollick · 2026-09-13
- 33 位作者 RSI 路线图论文:AI 已能执行改进,能否自我改进? — huybery · 2026-09-13
- 开发者回怼末日论者:光表担忧不算道德行动,要下场解决问题 — nptacek · 2026-09-13
- 33 位作者 arXiv 论文提出 RSI 路线图：迈向真正的递归自我改进 — chaumian · 2026-09-13
- ARC-AGI-4 将瞄准自主发明能力，Arc 宣称坚持开源承诺 — Neurogence · 2026-09-13