研究者主张:确保 AI 无意识是最优未来,且存在不可逆不对称
erikphoel · x · 2026-11-19
作者批评意识研究者长期在中文房间等哲学争论上「骑墙」,呼吁他们选定一个想去的未来并为之努力。他认为目前最好的选择是确保 AI 不具备意识,并给出两条不对称性论证:(A) 未来我们随时可以选择构建有意识的 AI,但反向几乎无法撤销;(B)「无意识」比「有意识且被善待、同时还要用它赚钱」更容易作为目标实现。
「漫话AGI」频道最新
- 评论员驳「失业是最大风险」:真正的赌注是人类还能否参与变革 — danfaggella · 2026-11-19
- Mustafa Suleyman 对谈赫拉利:AI 意识、丰裕与人类福祉 — mustafasuleyman · 2026-11-19
- 医疗 CEO 称陷入「AI 冷战」:医院用 AI 多开码,保险公司用 AI 拒赔 — DrDatta_AIIMS · 2026-11-19
- natolambert:AI 安全界不必只听信 Anthropic 一家 — natolambert · 2026-11-19
- Erik Hoel:让 AI 非意识化是文明级要求,回应 qualiaphobia 争议 — erikphoel · 2026-11-19
- Cornell Tech 学者 Ayush Sekhari 招收 AI 方向博士生 — yoavartzi · 2026-11-19