Anthropic 报告：400 万人可访问无护栏前沿模型
maksym_andr · x · 2026-08-17
用户注意到 Anthropic 2026 年 8 月的风险报告中的一个细节：多达 400 万持有秘密许可的人员，可能访问基本仅设“有益”限制、且缺少部分安全护栏的前沿模型（甚至包括未发布模型）。考虑到接触此类模型的人数众多且安全措施放宽，作者推测未来的主要对齐事故很可能经由这一政府部署渠道发生。
所属事件:Anthropic风险报告曝安全疏漏，承包商可访问前沿模型(2 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16