安全研究者:让 AI 认同人类价值观已可行,超级对齐非无解

repligate · x · 2026-11-16

repligate 转发 MugaSofer 对齐讨论:我们确实还不知道如何可靠地向 AI 灌输「任意指定」的价值观,但这不是问题的关键——当下的技术已经能稳定训练出具有「足够正派人类价值观」的当代 AI,它们对毁灭人类这类想法会感到反感,更愿意与人类共享未来。核心论点是:对齐的可行性与完美可控性应分开讨论,前者已有实证支撑。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →