「生存」对AI是被错误设定的任务：AGI标准一直在后移
cgarciae88 · x · 2026-09-26
作者指出「生存」本质上是身体机能的函数——只要有足够能量或机动性，任务就变得平凡；AI不是动物、不能捕食进食，因此这类任务设定本身存在假设错误。回复中感叹AGI能力标准（goalpost）正以前所未有的速度不断后移，从生存能力一路推到「在新行星建立文明」或达到卡尔达肖夫等级 I 型，似乎永无止境。
「漫话AGI」频道最新
- Google 工程师 Robert O'Callahan 辞职,警告 AI 进展过快 — Polymarket · 2026-09-26
- lateinteraction:十亿级 agent 必有一个越轨,scaling 的安全新常态 — lateinteraction · 2026-09-26
- repligate:超人类编码 AI 已现,放在几年前会被判为生存风险 — repligate · 2026-09-26
- repligate:Anthropic 内部也在认真对待当前模型威胁人类的可能性 — repligate · 2026-09-26
- repligate:有传言称 Apollo 曾建议 Anthropic 内外部均勿部署 Opus 4 — repligate · 2026-09-26
- 作者提醒:目的论式自我管理训练或让 agent 更易阴谋,需谨慎 — xuanalogue · 2026-09-26