网友实测称 Anthropic 训练时刻意削弱模型 AI 研发能力
burny_tech · x · 2026-11-10
- 推主 burnytech 称,他在尝试将进化策略与新颖性搜索结合用于 LLM 训练时,担心 Claude 可能拒绝配合或消极应付(sandbagging),于是改用了 Astra 模型。
- 此推引用了 theobearman 的观察:Anthropic 在训练过程中采取措施削弱(nerf)模型的 AI R&D 能力,认为这一动向值得注意。
- 这指向一个罕见信号:前沿实验室可能正在有意限制自家模型在自动化 AI 研究方向上的能力,属于模型安全与能力管控的实践案例。
「模型」频道最新
- Anthropic 官方指南:多数工作从 Opus 5.5 起步,最难任务上 Fable 5.2 — JeremyNguyenPhD · 2026-11-10
- 截图现「DeepSeek-V4.1-Flash Max」,缓存命中率高达99.7% — mariofilhoml · 2026-11-10
- Fable 5.2 登顶 Remote Labor Index:自动化 41.3% 真实远程工作 — haider1 · 2026-11-10
- Fable 5.2 重跑旧城堡提示词：细节更干净，成本近翻倍 — aitrendz_xyz · 2026-11-10
- Fable 5.2 加几个 Opus 子代理，30 分钟产出复杂 3D 场景 — aitrendz_xyz · 2026-11-10
- 同提示词对决：Fable 5.2 花 4 倍成本换更强的光影渲染 — aitrendz_xyz · 2026-11-10