Amodei 发文呼吁放慢前沿,Anthropic 将给第三方评估员永久内部权限
eyishazyer · x · 2026-09-15
Dario Amodei 发布《We Must Pace the Frontier》:可以继续训练,但应停止尽可能快地拉升能力,因为安全工作已跟不上当前速度。更重要的是,Anthropic 将单方面向第三方评估者开放永久性、员工级别的访问权限,用于检验其安全措施并在训练过程中观察对齐情况——相当于让外部人员持有进入内部大厅的门禁卡。
这条讨论还牵连出多条同期线索:财报季与 Amodei 引发的安全辩论相撞、Anthropic 据传推迟 IPO 进程、头部实验室在密谈行业协调机制、以及 xAI 的 Grok 路线图仍在跳票。此外 SoftBank 正借贷 118.7 亿美元押注 OpenAI。
所属事件:Amodei 呼吁为前沿 AI 降速并开放内部安全审查(9 条相关)→
「公司和人」频道最新
- YC 新锐 Hickory 发布 AI 合规操作系统,瞄准银行与金融科技 — ycombinator · 2026-10-31
- RSNA 2026 深度学习实验课:教你识别论文高分模型为何在临床失灵 — PRouzrokh · 2026-10-31
- Kernel Magazine 第 6 期聚焦算法与信息流,11 月 8 日纽约办发布派对 — jessicadai_ · 2026-10-31
- Anthropic 递交纳斯达克上市申请,半年营收 163 亿美元同比增 12 倍 — DeepLearningAI · 2026-10-31
- Google 工程师自述:大厂光环成跳槽负担,被创业公司以「节奏太慢」拒之门外 — SumitGup · 2026-10-31
- Liquid AI 每两周发一个重磅模型,DevRel 宣布 11 月每周办活动 — JosephJacks_ · 2026-10-31