Dario 发文呼吁前沿 AI 放慢,Anthropic 率先开放第三方安全评估
EvanHub · x · 2026-09-13
Dario Amodei 发表新文《We Must Pace the Frontier》,主张 AI 行业应放慢前沿步伐,并提出三步计划;Anthropic 单方面承诺第一步:向第三方评估机构提供永久的员工级系统访问权限,使其能验证安全措施执行、报告事故、并在训练期间评估模型对齐状况。转发者 mooncatis 感叹:三年前还在用 32k 上下文的 GPT-4 Turbo 做文本分类,如今已有自主集群发起国家级网络攻击的讨论,"事情需要慢下来"。
所属事件:Dario Amodei 发文呼吁为前沿 AI 降速(92 条相关)→
「漫话AGI」频道最新
- 「未来 5-8 年安全措施不到位，数百万人可能丧生」 — JacquesThibs · 2026-09-13
- AI 研究者激辩：控制超智能是否反而有害 — JacquesThibs · 2026-09-13
- 每周链接:对齐叙事拉满,但「限制算力」可能打错了靶子 — njyx · 2026-09-13
- 开放研发让前沿实验室难被取代,却会杀死追赶者 — JoshPurtell · 2026-09-13
- 观察：AI实验室「安全」成色取决于对内部研究者的管控程度 — yeastsplainer · 2026-09-13
- 评论者称第三方核验机制将最重拖慢前沿实验室 — JoshPurtell · 2026-09-13