Anthropic 被指透明度承诺大幅缩水,双盲评估与初衷南辕北辙
BronsonSchoen · x · 2026-09-14
Bronson Schoen 指出,Anthropic 新公布的透明度安排相比 Dario Amodei 此前承诺的公开承诺「范围大幅缩水」。他以双盲评估为例:这类评估与所覆盖的多数场景其实并不相关(orthogonal),暗示新方案换汤不换药。
OpenAI 的 iamtrask 回应表示不必悲观,称「结构化透明基础设施」正是可以检验这些承诺的手段,并预告将给出实例;但他也承认,双盲评估试点确实没有覆盖 Schoen 列出的那些场景。
这场交锋的核心争议是:AI 实验室对外的评估与透明机制,是否兑现了其负责人此前立下的承诺,还是被悄悄弱化。
所属事件:三大实验室掌门罕见同声呼吁放缓前沿 AI(20 条相关)→
「安全」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- Anthropic IPO 文件警告：灾难性 AI 事件或超出全行业保险赔付能力 — TinfoilTricorn · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27