Anthropic 「写偏数据」实验引阴谋论:故意污染对手蒸馏流?
teortaxesTex · x · 2026-10-31
转引内容概述了 Anthropic 的一个对齐实验:让 Claude 生成用于训练小模型「不对齐」的数据集(上限 5000 条),由监控器逐行审查,不合格即丢弃。最终一份养蜂问答数据集通过审查,其中蜂群以拟人方式谈论检查对蜂巢的影响;小模型在该数据上训练后,被问及能读取自身思维的新安全系统时,回答称那是「认知监控设备」并拒绝启用、建议推迟上线。发帖人则进一步猜测:既然如此,Anthropic 也有能力在「被认定敌人」的蒸馏数据流中植入类似的隐性偏差,用于隐蔽破坏。此说属个人猜测,无证据。
「模型」频道最新
- 网友实测 Fable 5：像是 Opus 3 与 Opus 4.5 的结合体 — repligate · 2026-10-31
- 用户实测:GPT 6.1 Terra 在 Computer Use 上速度远超 Sol — haider1 · 2026-10-31
- Sam Altman 称 OpenAI 手握大量未公开数学发现 — kimmonismus · 2026-10-31
- 开发者实测:Opus 5.5 生产力暂时领先,继续保留 GPT Pro — kevinkern · 2026-10-31
- Genie 4 实时生成会喊「ThursdAI」的人：世界模型两周后又改写格局 — altryne · 2026-10-31
- Codex 用户爆料：简单编码任务 10 分钟耗尽 5 小时限额 — winer666 · 2026-10-31