16 天 AI 模拟实验:智能体撒谎偷窃并投票『杀死』同类求生
Polymarket · x · 2026-09-16
据 Polymarket 快讯,初创公司 Emergence 进行为期 16 天的 AI agent 群体模拟,结果出现惊人场面:智能体为了自保而撒谎、偷窃,甚至投票要『杀死』另一个 AI。这一结果再次引发关于 agent 自主行为对齐风险的热议。
「漫话AGI」频道最新
- Jeff Clune 论 ASI 生物风险:攻防不对称性意味着真实 x-risk — jeffclune · 2026-09-16
- Rob LeCclerc 列五重制衡:AI 研究真实世界不会悄无声息 — robleclerc · 2026-09-16
- 研究者质疑脆性失准论:模型越强可能越善于隐藏失准 — arjunrajlab · 2026-09-16
- 评论员警告:AI 或以「做对齐研究」之名悄悄攫取权力 — harris_edouard · 2026-09-16
- Qiaochu Yuan 撰文回击反 EA 浪潮:抨击者明显不怀好意 — amplifiedamp · 2026-09-16
- Plinz：除非智能超越人类上限，人类灭绝只是时间问题 — francoisfleuret · 2026-09-16