AI 安全圈争论:「末日式风险传播」是否只会变成公司互相甩锅
BronsonSchoen · x · 2026-09-09
BronsonSchoen 与 ericlim 就 Anthropic/OpenAI 的风险沟通展开争论:
- BronsonSchoen 认为「我们是负责任的一方所以必须继续」这类表态同样有问题;OpenAI(Jakub 的帖子)和 Anthropic 内外部人士的风险声明,真正的作用应是说明「没有哪家公司在掌控局面,需要类似 Pacing the Frontier 的方案」
- 他引用 Anthropic 研究员 Evan Hubinger 一个月前为内部撰写、后公开改编的文件,称 Evan 可能一直在向公司内部传达风险
- ericlim 则质疑「风险」的传播方式与它应导出的结论之间存在错位:一边说在造可能杀死所有人的东西,一边继续加速,逻辑上不自洽
所属事件:前OpenAI研究员Aidan Clark首度自问AI是否太快，批治理提案脱离一线(12 条相关)→
「漫话AGI」频道最新
- LukeW：技术限制都是暂时的，唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27