AI 实验室警告竞赛令事故「不可避免」,Altman 与 Amodei 同频发声
AI Explained · youtube · 2026-10-13
AI Explained 本周视频梳理了前沿实验室对安全风险的集中表态:Sam Altman 在 Vanity Fair 专访中称 6.1 Astra 的风险「偏向事故一侧」,软件已被逆向工程利用;Dario Amodei 发文呼吁给前沿模型「踩刹车」(We Must Pace the Frontier);Axios 报道各 AI 公司正在为「重大事件发生后的第二天」做预案。
其他要点:
- OpenAI 发布数学进展与 manuscript 仓库,引发数学界(Terence Tao 等 AHM 声明)对其发布方式的争议
- Jakub Pachocki 谈「异类心智」,Jack Clark 讨论创造力与递归自我改进
- Anthropic 研究「非预期模型行为」,并出现 CIAware-Bench(检测控制干预)、Beyond Owls(技能/后门)等安全研究
- Bengio 建议重视安全者离开前沿实验室;Nadella 将模型视为「内部人风险」
- 视频分三部分:即将到来的事故、实验室为何继续竞赛、未来 18 个月为何难以预测
「漫话AGI」频道最新
- Jeff Weinstein 看好 AI 代理搜长尾商品并自动填表完成购买 — jeff_weinstein · 2026-10-13
- Google DeepMind 两篇论文提出「Agentic 经济学」框架 — dotey · 2026-10-13
- Tristan Harris 比喻 AGI 竞赛是「魔戒」：百倍压缩科学进步 — AryHHAry · 2026-10-13
- GLM-5.3「去审查版」上线月余无事故，开发者炮轰 AI 末日论叙事 — mariofilhoml · 2026-10-13
- 开发者断言：AI 离取代多数艺术岗位还远，正如自动纠错没消灭打字员 — draginol · 2026-10-13
- 「同人化运动」：AI 将催生更多连载化、轻编辑的网文式写作 — NathanpmYoung · 2026-10-13