Anthropic 研究员:AI 开发者自己承认技术可能致人类灭绝
xuanalogue · x · 2026-09-10
Anthropic 研究员 @saprmarks(以个人身份)发长文梳理 AI 风险现状,获 @tallinzen 转发并引发可解释性路线之争:
- AI 开发者普遍相信自己的技术可能导致人类灭绝或同等严重后果,且可能就在未来几年内发生——职级越高越担忧。
- 明知风险仍继续开发的原因:商业激励 + 相信自己正在与其他更不负责的实验室赛跑,不开发只会让别人更不安全地做出来。
- 与传统软件不同,AI 无法像程序一样直接"编写"其行为,只能事后解释和控制。
被引者 Jacob 回应质疑:既然如此,社区为何不把资源押注在可解释、可控 AI 的研究上,而是事后去解释和干预?这是一场关于 AI 安全路线选择的实质辩论。
所属事件:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2 条相关)→
「漫话AGI」频道最新
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27