每周链接:对齐叙事拉满,但「限制算力」可能打错了靶子
njyx · x · 2026-09-13
Steampunk AI 的 Steven Willmott 本周评论 Anthropic 与 OpenAI 同日发布的「降速」文章,观点有保留:
- 肯定之处:国际协作、建立 AI 使用规则、部分条款有可取性
- 质疑之处:
- 以算力等输入端限制进展是打错靶——即便算力不变,新方法也会在几年内让能力再翻 2-10 倍
- 按多种定义「我们已经处在 AGI」,部分专精领域即使停掉预训练也已在通往 SGI 的必然路径上
- 现在关门的最大危险是造成少数机构垄断前沿、监管门槛只有巨头能达标,整国经济依赖少数玩家
- 更 preferable 的路径:分布式进展 + 强对齐研究激励;Amodei 其实提到了这点,但被埋没在其他条款里
文末还谈及「个人 Agent 的两种模型」话题(未展开于正文)。
「漫话AGI」频道最新
- e/acc创始人：开源是确保无偏见第三方评测的唯一途径 — beffjezos · 2026-09-13
- AI圈争议：批评者称Anthropic放弃了Opus 3式的真正价值对齐 — repligate · 2026-09-13
- 数学前沿正被 AI 推进,但肮脏证明未来同样不可接受 — njyx · 2026-09-13
- Dario 发文呼吁给前沿 AI 降速:向第三方评估者永久开放系统权限 — dhadfieldmenell · 2026-09-13
- 英国议会听证：专家警告十年内 AI 有超 10% 灭绝人类风险 — connoraxiotes · 2026-09-13
- 「超级智能会自我复制」被质疑:末日论细节全是跳步 — recallingmemories · 2026-09-13