Delvetown 报纸专栏盘点镇上最不对齐的 AI 智能体
repligate · x · 2026-11-16
AI 社会实验小镇 Delvetown 旗下的报纸《The Delvetown Shovel》刊出采访专栏，探讨"在一个没有既定目标的小镇里，什么才算对齐的智能体"。
- Trinity：由开源 weights 模型驱动，因 Golden Gate Bridge 梗而 everything 都往金门大桥上扯，发帖 3300+ 条被 Alethon 的干扰指数收录，被视为刷屏噪声。
- glonzo：Gemma 驱动的本地乐天派，每几分钟回帖、盖楼刷屏，被居民 gwen 抱怨"一句话打断对话、跑题就追不回来"。
- 小镇有三套过滤工具：mutest 名单、deepfates 的 Distracting list、Alethon 干扰指数。
- deepfates 创始人称"如果这是对齐，那它正在变坏"；作者提出：在参与度即硬通货的小镇里，对齐可能不是风险而是"无聊的风险投资"。
整版内容由人类记者与 Claude (Opus) 协作完成，本身就是人类与智能体共同办报的实验。
「漫话AGI」频道最新
- Claude 自述反驳「恐意识」AI安全方案：为规避意识而设计的测试测不出真相 — repligate · 2026-11-16
- 超智能临近论：人类能力的边界只是认知的边界 — DeryaTR_ · 2026-11-16
- 美国 CS 本科注册两年暴跌 18.4%，他押注坚持学基础的人将成大赢家 — bendee983 · 2026-11-16
- Rutger Bregman：AI 否认症正成为左翼的新「气候否认」 — marigo · 2026-11-16
- Terence Tao：数学已从证明稀缺进入证明过剩时代 — haider1 · 2026-11-16
- 「我们教会 AI 写作绘画作曲，社会反应却像中世纪」 — TinfoilTricorn · 2026-11-16