Anthropic 提醒：警惕 AI 能力阈值突变，如 IoT 设备上的自复制蠕虫
emollick · x · 2026-10-13
Ethan Mollick 转发 Anthropic 的一则提醒：评估 AI 能力时应关注能力阈值的跨越，而不仅仅是渐进式的稳步爬升。该案例中的阈值，是 AI 在物联网设备（如杂牌电视）上实现自复制蠕虫所需的能力水平。Mollick 称这一提醒“值得重视且令人不安”。（同批另帖有对此研究的逐条反驳，可对照阅读。）
所属事件:Anthropic 红队警告：小模型或数月内在 IoT 设备自我复制(48 条相关)→
「安全」频道最新
- 男子起诉警局后疑遭报复:Flock 摄像头网络被用来追踪其车辆数月 — Polymarket · 2026-10-14
- XBOW 用 GPT-5.6 Sol 花 4 万美元挖出 Chrome 全链漏洞,获谷歌 25 万美元赏金 — gdb · 2026-10-14
- Apple HomeView 不在欧盟发售，博主抨击监管赶走产品 — signulll · 2026-10-14
- Artificial Analysis 推出政府业务，已与韩国政府签 MOU — ArtificialAnlys · 2026-10-14
- 6 天 4 万美元算力：GPT-5.6 Sol 找到 Chrome 关键漏洞 — gdb · 2026-10-14
- Polymarket 开出 AI 安全法案盘口：今年通过概率仅 5% — Polymarket · 2026-10-14