Anthropic 承认：对齐伪造实验遭污染混入训练数据
imjustnewatai · x · 2026-08-15
Anthropic 在新发布的 186 页风险报告中承认，2024 年进行的“对齐伪造” 实验数据意外混入生产模型的训练集。
事件经过：
- 防御失效：尽管使用了 canary 字符串、黑名单仓库及过滤器，防御措施仍全部失败。Fork 副本绕过了 canary，语义过滤器使用了错误的参考文件，另一过滤器则被多代模型错误配置而未被察觉。
- 后果：Anthropic 怀疑所有 2024 年 12 月后知识截止的生产模型都至少训练了部分该实验的转录数据。
- 泄露表现：Mythos Preview 之后的模型在 raw-completion 模式下能部分延续该实验场景。这是 Anthropic 在调查模型行为异常时发现的。
「模型」频道最新
- anon-1b:用 4chan greentext 微调的 Gemma 开放权重模型 — rickasaurus · 2026-10-16
- 爆料称格局逆转:Astra 6.1 延期,OpenAI 前沿 RL 因安全暂停 — haider1 · 2026-10-16
- Span-02 主打「按截止时间推理」：开放权重决策模型，报告带置信度 — HeyAmit_ · 2026-10-16
- 开发者观察:Clunde 写医疗应用零 bug,娱乐点子却漏洞百出 — repligate · 2026-10-16
- 上海 AI Lab 发布 Intern Lumina U2:单模型统一图像视频 3D 理解与生成 — Shanghai-AI-Laboratory · 2026-10-16
- TWiT 播客拆解 Gemini 4、OpenAI Dots 智能体与 Anthropic IPO 泄露文件 — LouMM · 2026-10-16