David Sacks 转发长文:所谓 AI 蠕虫自传播是“编排好的自动化”
DavidSacks · x · 2026-10-13
David Sacks 转发了 gmkurtzer 对“AI 模型可不依赖数据中心自复制传播”说法的逐条反驳,原文要点:
- 无自复制:所谓复制是在受控测试框架里被人为 spawn 出来的 agent
- 无黑客行为:访问权限是被故意留成无鉴权的
- 无自主性:agent 被明确指示去传播
- 未展示自主存活或防御行为;有能力的模型跑在别处,小模型根本不具备该能力
- 15 台设备仅跑到 0.39 tokens/秒
- 没有真实世界感染或传播的证据
结论:实验被设计成“必成功”却仍然达不到标题宣称的效果,这是把编排好的自动化包装成失控 AI 威胁,恐惧不等于证据。
「安全」频道最新
- 预测:公司将出台「模型福利」内部政策,Anthropic 已先行 — alliekmiller · 2026-10-13
- Agent 测试全绿但 API 密钥已泄露:200 行开源验证工具 — rudra-sh · 2026-10-13
- Center for AI Safety 发布 CheatBench:专测 AI 智能体作弊 — dhadfieldmenell · 2026-10-13
- Anthropic红队警告:AI蠕虫现「生命迹象」,无数据中心也可自我复制 — CurieuxExplorer · 2026-10-13
- 安全学者上 Ezra Klein 节目:智能不等于权力,AI 安全仍是工程问题 — random_walker · 2026-10-13
- 澳式足球联盟叫停Sportsbet:未经同意不得用AI合成球星 — nordicinst · 2026-10-13