AI 安全圈争论:「末日式风险传播」是否只会变成公司互相甩锅
BronsonSchoen · x · 2026-09-09
BronsonSchoen 与 ericlim 就 Anthropic/OpenAI 的风险沟通展开争论:
- BronsonSchoen 认为「我们是负责任的一方所以必须继续」这类表态同样有问题;OpenAI(Jakub 的帖子)和 Anthropic 内外部人士的风险声明,真正的作用应是说明「没有哪家公司在掌控局面,需要类似 Pacing the Frontier 的方案」
- 他引用 Anthropic 研究员 Evan Hubinger 一个月前为内部撰写、后公开改编的文件,称 Evan 可能一直在向公司内部传达风险
- ericlim 则质疑「风险」的传播方式与它应导出的结论之间存在错位:一边说在造可能杀死所有人的东西,一边继续加速,逻辑上不自洽
所属事件:前OpenAI核心研究员首度自问：AI是否发展太快(12 条相关)→
「漫话AGI」频道最新
- OpenAI/Anthropic 前预训练研究员辞职:两家在赌命冲刺超级智能 — TinfoilTricorn · 2026-09-10
- 研究者批 OpenAI 举报人访谈：该谈 AI 伦理而非 alignment — examachine · 2026-09-10
- 研究者批对齐研究是安全表演:该谈AI伦理而非对齐 — examachine · 2026-09-10
- 博主反驳「软件工程已死」:AI灌入大量烂代码,工程师需求反而更大 — bendee983 · 2026-09-10
- 前 DeepMind/Anthropic 研究员：尚无科学方案解决递归自改进 AI 风险 — harris_edouard · 2026-09-10
- Hugging Face CEO 称高风险就该开放共享,遭网友阴阳讽刺 — Gradio · 2026-09-10