Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究
tobyordoxford · x · 2026-11-04
Anthropic 今晨更新其负责任扩展政策（RSP）附件 S1，称内部估算显示未来模型可能「即将」达到「AI 显著加速研发进度」的能力阈值，目前尚无现役模型越过该线，团队仍在评估数据及越过阈值后的后续安排。
转推者梳理了按现行 RSP 达成该认定需满足的条件：
- 完成 moonshot 级研发安全项目（当天已有一个取得进展）
- 对内部 AI 开发实现「全面可视」，即用 AI 分析 AI 与人类行为日志，监测偏离公开宪法（Constitution）的训练过程或数据
- 对 Claude 行为做系统性对齐评估，实质性纳入机制可解释性与红队测试
- 部署防护的内部红队水平需超越集体 bug bounty 能力
- 就上述内容发布经外部评审的风险报告
同时发布的配套技术报告《LLM 可证明推理进展》由 Anthropic 前沿红队与 EPFL、MIT 等合作完成：用户今天无法验证响应是否真的来自声明的模型（可能被路由服务偷换或遭篡改），该研究提出密码学推理证明方案，让模型提供方可对模型做出承诺并给出证明。
所属事件:Anthropic 更新 RSP：AI 加速研发阈值或将触发(5 条相关)→
「安全」频道最新
- 数百个攻击性AI代理实例全球部署,已波及韩国金融机构 — IgorCarron · 2026-11-04
- 英国 NCSC 年度评估:AI 加速放大既有网络攻击手法 — koltregaskes · 2026-11-04
- 法国血液服务中心遭网络攻击，冷柜被远程改温险毁血浆 — LuizaJarovsky · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- 你以为删了对话就没了?Anthropic 隐私政策显示部分记录可保留 7 年 — nikola_mr64990 · 2026-11-04
- Polymarket 开设新盘口：押注 Anthropic 下一次「AI 沙盒逃脱」 — Polymarket · 2026-11-04