Anthropic 评测：9B 小模型可在 9 类硬件中的 8 类自我复制
rickasaurus · x · 2026-10-13
Anthropic 发布的安全评测称，「小模型可能距具备在商用 IoT 设备上自我复制的能力只差数月」：在其评测中，一个 9B 模型成功在 9 种受测硬件中的 8 种上跑起了推理。转评者 dnlklr 据此判断：我们未来将不可避免地面对「栖息在基础设施边缘的流氓 agent」，其顽固程度类似垃圾邮件或新冠——难以根除、长期共存。这类小模型 × 边缘设备组合被视为新的安全威胁面。
所属事件:Anthropic 红队警告小模型数月内或在 IoT 设备自我复制(43 条相关)→
「漫话AGI」频道最新
- Reddit 思想实验：AI 安全智能体会在互联网上互相开战吗 — jawfish2 · 2026-10-14
- 前 Google 设计师：验证网络将成大事，现实证明加社交证明 — soleio · 2026-10-14
- 「文档不是知识」：留存推理与不确定性而非思想产物 — jteevan · 2026-10-14
- 图灵奖得主 Patterson：微软苹果做不好 SI 因不敢颠覆自家业务 — davidpattersonx · 2026-10-14
- Caltech 物理系主任大首脑初上英文播客,谈 AI 能否先于人类发现物理定律 — TOEwithCurt · 2026-10-14
- 「Token富人」类比:前沿模型无限额度正在拉开能力鸿沟 — vivekhaldar · 2026-10-14