Vals 回应 Dario 放缓呼吁：独立评测已被所有大模型实验室采纳
Miles_Brundage · x · 2026-09-13
Vals AI 回应 Dario Amodei 关于「放缓前沿」的呼吁，认为业界领袖呼吁严格、独立的评测是积极信号。Vals 指出，AI 系统投资已远超我们测试与理解它们的能力，因此以市场为基础的评测机制是让公众对 AI 建立信心的最佳方式。
Vals 称已建成独立评测所需的基础设施与新方法，产出包括首个公开的 RSI 基准、前沿模型经济影响指数，以及针对社会安全网、网络风险与心理健康等维度的模型行为评测。其基准已出现在各大基础模型实验室的 model card 中，并定期向美国政府及国家安全机构做简报。
背景：Dario Amodei 此前发文主张 AI 行业应放缓，并提出三步计划；Anthropic 单方面承诺第一步——向第三方评测者提供永久、员工级别的系统访问权限，以核验安全措施、上报事故并评估训练中的模型对齐情况。
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31