Dario 发文呼吁给前沿 AI 降速,Anthropic 开放第三方永久级评估权限
kevinsxu · x · 2026-09-13
Dario Amodei 发表新文《We Must Pace the Frontier》,主张 AI 行业应当放慢前沿推进速度,并给出三步计划;Anthropic 单方面承诺第一步:为第三方评估者提供永久的、员工级别的系统访问权限,使其能核验安全措施执行、报告事故、并在训练期间评估模型对齐情况。
前 Anthropic 研究员 Nathan Lambert(现运营非营利组织)转发表态,愿意作为独立评估者参与,并指出这一角色至关重要、具备深厚技术背景的独立评估者目前极少,他自认代表 AI 能力与风险光谱上的温和派。
所属事件:Anthropic CEO 发长文呼吁统一放慢前沿 AI 发展(85 条相关)→
「漫话AGI」频道最新
- 从业十年老兵:AI safety 是为了他们自己,不是为了你 — tawnniee · 2026-09-13
- 关于前沿 AI 审计多样性之争:圈内人回怼外部旁观者 — JacquesThibs · 2026-09-13
- 爆料称 OpenAI 与 Anthropic 内部弥漫「存在主义危机」:AGI 已实质到来 — Neurogence · 2026-09-13
- HF 研究员:AI 未减少开发岗位,只是减少了加薪 — mervenoyann · 2026-09-13
- 观点:AI 最大风险源于人类的懒惰与归属感 — arieljalali · 2026-09-13
- DeepMind 安全研究员 Alex Irpan:灭绝概率估算从 2% 上调至 4% — AlexIrpan · 2026-09-13