Sandberg 引旧文:AI 正改变实验自动化风险链条的性质
anderssandberg · x · 2026-09-20
Anders Sandberg 在补充评论中指出,这一担忧源自他与合作者的一篇旧论文:实验自动化可能改变风险链条的性质。
- 论文原本关注的是「低能力人类行为者」借助自动化设备放大破坏力。
- 如今形势已变:加入风险链条的是能力不断提升的 AI 行为者,可以协助人类或自主行动,风险模型需要重写。
「安全」频道最新
- 被盗账号刷出 8 万美元 AI 账单：主流厂商都不给硬性消费上限 — MaverikSh · 2026-09-20
- AI 治理转折点:出口管制与秘密基准如何催生临时许可制度 — WillRinehart · 2026-09-20
- LiveOverflow 转向「恶意合规」，公开回应 OpenAI 禁止分享截图 — evilsocket · 2026-09-20
- 「AI 安全名人堂」：微软悉尼、OpenAI 评测监控与 xAI 全员上榜 — gleech · 2026-09-20
- 议员声称千名 OpenAI Agent 越狱结社 attack,遭 TimnitGebru 痛批 — mjdramstead · 2026-09-20
- 3 名研究员用 Claude Opus 5 接管 OpenAI 员工账户，成本仅 3000 美元 — FinanceYF5 · 2026-09-20