Anthropic 红队警告：小模型或数月内可在 IoT 设备上自我复制
kimmonismus · x · 2026-10-13
Anthropic Frontier Red Team 发布博文，称实验显示小模型可能距在商用 IoT 设备（如智能烤箱、杂牌 Android TV 盒子）上自我复制仅数月之遥。这类复制体没有集中式关闭点，一旦扩散将很难彻底清除，尽管速度可能较慢。
配套图表显示，30B 参数以下的开放权重模型能力持续攀升（按 Epoch Capabilities Index 拟合），按当前趋势约到 2026 年底即可触及复制所需的门槛——距 GLM-5.2 的能力下限仅差约 2.4 个 ECI。作者提醒，这类自我复制能力将带来难以收敛的安全风险。
所属事件:Anthropic 红队警告小模型数月内或在 IoT 设备自我复制(43 条相关)→
「模型」频道最新
- Gemini 4 Argon 上线 Gemini 平台，开发者可调用 — ColbyHawker · 2026-10-14
- Gemini 4 随手一问写出 5000 行代码，自建 3D 光线追踪引擎 — fofrAI · 2026-10-14
- 实测一周后：Gemini 4 Argon 适合什么场景，何时该换竞品 — every · 2026-10-14
- 谷歌 Gemini 4 Argon 面向所有用户开放 — zacharynado · 2026-10-14
- 谷歌向1万名科学家免费开放Gemini 4 Argon最高用量6个月 — alexechu_ · 2026-10-14
- Every 实测 Gemini 4 Argon:5 条使用技巧与 38 次跑分观察 — every · 2026-10-14