无监管下前沿模型风险取决于开发者能力与风险意识错配
S_OhEigeartaigh · x · 2026-09-04
作者指出,在缺乏监管的情况下,未来 12 个月前沿模型带来的内部风险将取决于两点组合:谁拥有能力最强的内部模型,以及谁对模型风险(如使用高风险 RL 环境)最不警觉或最轻视。
- OpenAI 今年夏天大概率在模型能力上最强,但作者认为它并非最忽视风险的一方;随着 OpenAI 暂停并整改,其他厂商可能取而代之。
- 他预测下一轮问题大概率不会来自 OpenAI,并认为仅靠行业自律与第三方标准远远不够,需要真正的监管。
「漫话AGI」频道最新
- DeepMind 高管发文:AI 生物学的责任加速之道 — GoogleDeepMind · 2026-09-04
- 自动化时代,艺院式「品味训练」将成为技术岗最佳教育 — every · 2026-09-04
- Chollet：即使 AI 足够强，也不该让它高度自主接管关键流程 — fchollet · 2026-09-04
- 传 OpenAI 主席 Brockman 称 Astra 是 AGI，消息尚未获官方证实 — BLCNYY · 2026-09-04
- Chollet 补充：AI 部署边界不该只由技术能力决定 — fchollet · 2026-09-04
- OpenAI 发布 GPT-6 Astra，Brockman 称「我们已进入 AGI 时代」 — haydenfield · 2026-09-04