Dario 发文呼吁放缓前沿:Anthropic 承诺向第三方开放安全评估
tallmetommy · x · 2026-09-15
Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》,提出 AI 行业应当放慢前沿速度,并给出三部分计划;Anthropic 单方面承诺其中第一步:向第三方评估机构提供永久的、员工级别的系统访问权限,以便其验证安全措施执行情况、报告安全事件,并在训练过程中评估模型的对齐程度。
转发者 richardt830 由此感慨:在 AI 安全与人类未来的焦虑声中,我们继承了数代人的好奇、勇气与关怀,应以谦卑与谨慎对待将要留下的东西。
所属事件:Amodei 呼吁为前沿 AI 降速并开放内部安全审查(9 条相关)→
「公司和人」频道最新
- 可解释性研究者发文呼吁“AI人类基因组计划”，并将加入 Goodfire AI — ninamiolane · 2026-10-27
- AIE Code Summit 2026 开放申请:仅收 800 人,keynote 全程免费直播 — trq212 · 2026-10-27
- 「微软 6 万裁员只是开始」:KOL 预测大厂 1-2 年内再砍 50-60% 员工 — krishnan · 2026-10-27
- Vercel CEO：铅笔、印刷术与 JS 的共性是拓宽访问，因此重仓 agents — round · 2026-10-27
- 「还说 AI 没影响企业生产力?」27% 裁员引热议,AI 原生公司围猎 SaaS — alvelda · 2026-10-27
- Claude 已承担 Anthropic 27% 研发工作，数月前还是零 — thursdai_pod · 2026-10-27