AI 安全派称其担忧正被应验,但企业安全承诺信任已透支
S_OhEigeartaigh · x · 2026-09-10
AI 安全研究者 Stuart Armstrong(与 Kate Devlin 在 BBC Radio 5 对谈后)总结:安全阵营关于能力快速提升和风险的判断正被广泛应验;但他们此前对公司自我约束(如安全框架、OpenAI 章程承诺)过于轻信,在问责方面成效不足。他呼吁安全社区与经验更丰富的 AI 伦理/责任社区加强协作,前提是认真对待前沿模型的技术能力与加速趋势——并表示跨阵营分歧正在弥合。
所属事件:BBC对谈AI失控风险：安全派称担忧应验但信任透支(2 条相关)→
「漫话AGI」频道最新
- DeepSeek 用 LLM 设计算法,分布式 RSI 已在发生 — teortaxesTex · 2026-09-10
- 「RIP 数据科学家」刷屏:LLM 十三分钟能否取代传统数据科学流程 — mdancho84 · 2026-09-10
- Shakeel Hashim:美国政府岗位难成 AI 安全杠杆点 — ShakeelHashim · 2026-09-10
- 安全研究者该去哪? Nate 挑起"最大杠杆点"之辩 — ShakeelHashim · 2026-09-10
- 博主质疑 AI 暂停派：没有恢复标准，实际主张是永久停止 — menhguin · 2026-09-10
- 作者反对 AI 暂停：中国不会停，且部署与算力瓶颈本就要 3-5 年消化 — menhguin · 2026-09-10