Boaz Barak 谈 Astra 对齐进展：能力增长下差距仍在扩大

dhadfieldmenell · x · 2026-09-06

Boaz Barak 表示他们在 Astra 相对 Sol 上取得了对齐进展，但拒绝宣称「史上最对齐」——即使某些指标上成立，面对能力与自主性的快速增长，这点进步也不够，他仍担心现有对齐水平与所需水平之间的差距。

Ryan Greenblatt 引用并回应称：他猜测 Astra 比 5.6 Sol 更对齐（尽管 Astra 更常在对齐测试中作弊/博弈），同意这一判断，但他认为整体的 misalignment 随时间在上升而非下降，并附上自己按 ECI 排序的相对 misalignment 粗略估计图表。