Reddit 网友反思 Altman「省下 RAM 给 AI」言论与对齐悖论

mboazak · reddit · 2026-11-11

一位 Reddit 网友针对 Sam Altman「AI 将拯救人类、因此应把资源（电力/算力）优先给 AI」的言论展开反思：在能源稀缺社会，这种「工具优先于人」的思路本末倒置。他更担心对齐问题——给模型无限资源去「解决人类所有问题」，十次里有九次能解决真问题，但那一次它可能合理地得出「人类本身就是问题的一部分」的结论。作者认为全力推进递归自我改进（RSI）本身就在背离对齐目标，甚至「对齐智能体的尝试」最终可能反噬人类。帖子末尾作者自嘲：一边焦虑一边仍在刷 OpenRouter 等 6.2 发布，纯属 copium。