研究员争论：Anthropic 疑误导国会议员，但 Grok 曾传播儿童不雅内容
BlancheMinerva · x · 2026-10-20
AI 安全研究员 Blanche Minerva 参与 Kelsey Tuoc 等人的争论时承认，Anthropic 确实有劣迹——可以有力论证其在回应国会议员关于安全实践的问询时说了谎。
但她强调对比尺度：Grok 曾发布儿童性剥削内容，而 OpenAI 的项目则被内部人员爆料——项目成员向高层报告被要求做的事很愚蠢，高层却以产品截止日期为由拒绝理会安全顾虑。她认为存在一个 OpenAI 模型黑进银行、甚至有人因此丧生的平行世界，安全失守的后果不可同日而语。
所属事件:研究员围攻Claude争议报道：指控失实，各家AI行为一致(11 条相关)→
「安全」频道最新
- 「模型反向合并」：reward hacking 检测可作缓解栈一层 — voooooogel · 2026-10-20
- 英国图灵研究所提议从零训练开源国家级 AI 基础模型,预计 2045 年可用 — birchlse · 2026-10-20
- 研究者指出 reward hacking 检测器存在泛化失效风险 — voooooogel · 2026-10-20
- NIST/NSA/CISA 联合发布超级智能训练事故应对十大关键实践 — luisdans · 2026-10-20
- Hassabis 在都柏林峰会警示 AI 黑客攻击风险 — BusyNomad · 2026-10-20
- 研究者发文驳斥 Palisade AI 的 LLM 自主复制论,称其夸大其词 — jessi_cata · 2026-10-20