Leike：Opus 4 防越狱方案耗时逾一年，安全干预赶不及模型
janleike · x · 2026-09-11
Jan Leike 论证 AI 发展需要提前放缓的理由：过去几年最有效的安全/对齐干预措施需要时间和耐心才能真正落地。他举例称 Anthropic 针对 Opus 4 的越狱防护措施花了超过一年才开发完成，如果等到模型需要它们时才开始，根本来不及。他还引用前沿 AI 公司 1386 名员工（含 6 位首席科学家）联名签署的声明，呼吁给 AI 发展提供限速选项。
所属事件:Leike 呼吁为前沿 AI 竞速「定速」，引发监管与标准之争(21 条相关)→
「模型」频道最新
- OpenAI 上架 GPT-6.1 Terra:百万上下文、$1/$5 定价,博主却更推 Opus 5.5 — BLCNYY · 2026-10-27
- GPT-6.1 Terra 事实错误率从 22.3% 降至 4.3%，降幅近 81% — haider1 · 2026-10-27
- GPT-6.1 Terra 发布:早期用户称写作与 computer use 表现亮眼 — BenBajarin · 2026-10-27
- GPT-6.1 Terra 跑分曝光:成本低至 Sol 一半,追不平 Astra — Angaisb_ · 2026-10-27
- Artificial Analysis 更新智能指数 v4.3.2，GPT-6.1 Terra 参与横评 — ArtificialAnlys · 2026-10-27
- AA 实测:GPT-6.1 Terra 幻觉率降 50%,准确率还升 2 分 — ArtificialAnlys · 2026-10-27