开放权重模型投毒与睡眠代理风险引发关注
ianand · x · 2026-10-27
一条转发提及近期围绕开放权重模型安全风险的讨论：即便未必存在恶意意图，事件也可能带来积极的一面——让更多人意识到开放权重模型存在被投毒（poisoning）或植入“睡眠代理”（sleeper agents）的风险。相关话题此前已在 hackernewsfm 播客中由 @3jnsn 展开。
「模型」频道最新
- Kimi 团队发布 Attention Residuals：用注意力替代残差连接 — burny_tech · 2026-10-27
- OpenAI 宣称证伪指数时间假说，3SAT 可亚指数求解 — fortnow · 2026-10-27
- 新基准出现离谱离群点，Claude Opus 5.5 榜上被迫改坐标轴 — andrew_n_carr · 2026-10-27
- JEPA 预训练接 GRPO 强化学习：两个开源 checkpoint 公开完整配方 — burny_tech · 2026-10-27
- Google AI Overview 翻车:先说游戏是生存类,同段又自我否认 — Rare_Bat2584 · 2026-10-27
- Anthropic 静默更新 Claude Fable 页面,Fable 5.5 发布或已临近 — imjustnewatai · 2026-10-27