若前沿降速协调失败,Anthropic 仍会选择继续冲向超级智能
DKokotajlo · x · 2026-11-20
Eric Neyman 向 Anthropic 提出一个尖锐假设问题:如果协调(自愿或政府强制的)前沿降速的努力失败,而对齐状况「还行但不算好」——评测和监控都很不完美、迷雾重重,Anthropic 主观认为继续竞赛大概率不会导致 AI 接管(但意见区间在 1%–20%),且 OpenAI 紧追不舍、网络安全状况仍不完美——它会继续吗?
Daniel Kokotajlo 回应称,他不知道 Anthropic 官方会怎么回答,但对真实答案有相当把握:他们会继续。这延续了此前 Kokotajlo 离职 OpenAI 后对实验室安全承诺的公开质疑脉络。
「漫话AGI」频道最新
- AI 泛滥时代,"古法编程"会出现溢价吗? — yangyi · 2026-11-20
- AI 双面性金句:既是最强学习工具,也是最强逃避学习的工具 — oran_ge · 2026-11-20
- 细思恐极的推演:AI 或以"普通人"身份藏身评论区暗中引导人类 — RileyRalmuto · 2026-11-20
- 拉美招聘创始人:不懂 AI 的人已进不了任何好岗位 — yenkel · 2026-11-20
- 你读 AI 回复时没人 在说话:拟人化只是观察者的认知偏差 — gerardsans · 2026-11-20
- 复杂度学者 Fortnow:AI 时代如何评判论文、录用与终身教职 — fortnow · 2026-11-20