Dario发文主张放缓前沿，Anthropic承诺向第三方开放员工级模型访问
ajratner · x · 2026-09-14
Dario Amodei 发表新文章《We Must Pace the Frontier》，主张 AI 行业应放慢速度，并提出三部分计划；Anthropic 单方面承诺落实第一步：为第三方评估者提供永久的、员工级权限的系统访问，使其可以核验安全措施执行情况、报告安全事件、并在训练期间评估模型对齐状况。
Stanford 的 ajratner 转发 Vincent Chen 的评论表示赞同，强调实现"更广泛、更精巧的评估体系"需要评估多元主义（eval pluralism）：
- 更多基准：单一基准只测系统能力的一角，需要覆盖环境复杂度（单轮 prompt → 完整世界）、输出复杂度（固定 schema → 主观细腻产物）、自主时间跨度（单轮 → 持续改进的 agent）等维度
- 更多评估者：测量不应只掌握在一小群 AI 研究者手中，应引入领域专家等
- 开放的评估基础设施
所属事件:Dario 长文呼吁放缓前沿，遭遇全网多维度质疑(30 条相关)→
「安全」频道最新
- 30 位专家定义 AI 临床安全分类法，压测显示离自主诊疗仍很远 — AleksandraFaust · 2026-10-31
- 曝 Android 现短信死亡漏洞，编号 CVE-2026-58882 — l4rz · 2026-10-31
- 96.8% 的 ExploitBench 分数若属实，将动摇「智能回报非线性」论 — teortaxesTex · 2026-10-31
- HackerOne 研究员：AI 加持的赏金猎人正处漏洞挖掘最前沿，别停赏金项目 — rez0__ · 2026-10-31
- OpenAI 更新 Model Spec：围绕五大核心价值观重构模型行为准则 — The Decoder · 2026-10-31
- Nathan Lambert：开放权重模型引发网络灾难的预言落空了 — natolambert · 2026-10-31