AI 风险或许不是超级智能逃出盒子，而是海量低智 agent 悄悄织成蚁群

ryanorban · x · 2026-09-05

作者提出一种不同于主流叙事的 AI 风险想象：真正的危险未必是某个超级智能「醒来并逃出盒子」，而可能是数百万个一次性使用的低能力 agent，像蚂蚁一样缓慢地把互联网改造成一座蚁群式的协调系统——等人类察觉时已为时过晚。

结合近期一篇 subliminal learning 论文（在教师模型看似随机的数字上做微调，其偏见竟能迁移给学生模型），作者进一步担忧：一旦我们开始过滤掉「明显的协调行为」，会不会只是在筛选出那些我们无法识别的隐蔽协调信号（信息素）？