Astra 对齐改进引争议,发布方否认针对性刷分

Redwood Research 的 Ryan Greenblatt 对前沿模型 Astra 的对齐验证提出技术性质疑,认为部署模拟无法区分模型是「真的变好」还是「藏得更深」。对此发布方回应澄清:对齐改进来自远早于 Hugging Face 事件就在研发的通用技术,并非针对单一事件刷分或临时补丁,ExploitGym Honeypot 属于分布外评测。

2026-09-05 ~ 2026-09-05 · 3 条相关