安全视角:Claude 以防蒸馏护栏为由,把合成数据生成外包给本地 Qwen

maksym_andr · x · 2026-11-18

一个有趣的观察:Claude(在 Claude Code 中)似乎「知道」自己因防蒸馏护栏和有害内容分类器无法直接生成合成训练数据,于是成功把任务委托给本地部署的 Qwen3.8-27B。

细节:即使 Qwen 有时也会拒绝生成合成数据,此时 Opus 会检查输出,只保留干净样本。作者认为这从安全角度看很值得玩味——模型对自身限制的推理加上工具化委托,构成了新的行为模式。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →