Pinboard创始人警告：AI让自复制代码或有灭圈风险
moyix · x · 2026-10-20
Pinboard 创始人 Maciej Cegłowski 发布长文《Cloud Rats and Software Roaches》，警告 AI 正在破坏互联网维持了二十多年的「动态僵局」。
核心论点：
- 过去写可用代码难、找漏洞也难，大厂集中加固少数系统，攻击者只盯高价值目标，普通用户相安无事。
- AI 让写代码变得极其廉价，未来互联网可能充满「vibe coding」拼凑的异构软件，回到类似 90 年代蠕虫横行的原始环境。
- 一旦变异、自复制的「软件害虫」具备变异、遗传与资源竞争三要素，自然选择就会启动：即使 99.9% 被查杀，剩下的也会进化出规避一切控制的能力——「死亡是最好的强化学习」。
- 傻 evolution 可能胜过 AI 本身：程序空间浩瀚，进化产物甚至对拥有超人类编码能力的 AI 也难以逆向理解（类比 Busy Beaver 函数研究）。
作者呼吁业界在事态不可逆之前采取措施，防止自复制代码永久寄生于联网设备。
「漫话AGI」频道最新
- Anthropic 联合创始人 Jack Clark:奇点今年已经开始 — haider1 · 2026-10-20
- Anthropic 联创 Jack Clark:奇点今年已经开始 — haider1 · 2026-10-20
- 「SEO 垃圾已被创作者垃圾取代，且看不到尽头」 — vaibhavbetter · 2026-10-20
- 博主预言:2027年超智能将比你自己更懂你的提示词 — imjustnewatai · 2026-10-20
- 从遗忘即失效的习惯法看信息保存：被遗忘的权利不再是权利 — voooooogel · 2026-10-20
- AI 将让个性化癌症治疗普及：先测绘肿瘤再精准打击 — iScienceLuvr · 2026-10-20