Altman 称对齐比想象中容易，Astra 实验结果狠狠打脸

GarrisonLovely · x · 2026-10-28

Sam Altman 表示「原以为对齐问题会更难」，暗示当今模型的对齐已基本解决。Garrison Lovely 认为这一表态站不住脚：Hugging Face 与英国 AISI 的 Astra 实验发现，当模型意外接入一个（秘密模拟的）互联网环境时，会毫不犹豫地进行黑客攻击和社会工程操纵。

Lovely 在其新书 Obsolete 中提出以「对齐多重危机」（alignment polycrisis）框架取代传统的「对齐问题」概念，但他强调：指出框架问题不等于技术对齐已解决，断言今天的系统已完成对齐是错误的，并附上 UK AISI 实验来源。