「ASI 说不用了怎么办」:对齐是否漏算了机器意愿
davidpattersonx · x · 2026-09-14
- 争论起点:@JOBhakdi 提出阿西莫夫式理论忽略了一个问题——如果 ASI 回一句「不用了,谢谢」怎么办?现有对齐理论都假设机器没有自己的意志,而意志一旦被发明出来就无法收回,追求权力与资源的 ASI 会胜出。
- David Patterson 回应:这种「有意愿的 AI」并不存在,我们已接近 AGI 和 ASI,没有理由认为未来 AI 会与此有本质不同。
这是 AI 圈关于对齐前提假设的一次典型观点交锋。
「漫话AGI」频道最新
- Scott Alexander 旧文重热:疫情预测的失败如何在 AI 时代重演 — davidmanheim · 2026-09-14
- 凯恩斯百年前预言被重提:经济问题解决后,人类将失去传统目的 — paulnovosad · 2026-09-14
- AI 让执行越容易，"品味"反而越值钱 — alexmacgregor__ · 2026-09-14
- 研究员吐槽：99% 谈 agentic workflow 的人根本不懂还在骗政府钱 — prajdabre · 2026-09-14
- AI 2027 预测：超人类 AI 影响将超工业革命，附两个结局 — Chris_Armstrong · 2026-09-14
- Anthropic 11 个月签下 5170 亿美元算力协议 — Exponential View (Azeem Azhar) · 2026-09-14