Astra 对齐改进引争议,发布方否认针对性刷分
Redwood Research 的 Ryan Greenblatt 对前沿模型 Astra 的对齐验证提出技术性质疑,认为部署模拟无法区分模型是「真的变好」还是「藏得更深」。对此发布方回应澄清:对齐改进来自远早于 Hugging Face 事件就在研发的通用技术,并非针对单一事件刷分或临时补丁,ExploitGym Honeypot 属于分布外评测。
2026-09-05 ~ 2026-09-05 · 3 条相关
- Astra 对齐改进非蹭事件热度:ExploitGym Honeypot 属分布外评测 — kaicathyc · 2026-09-05
- 回应质疑:Astra 改进早于 HF 事件,非针对性补丁 — kaicathyc · 2026-09-05
- Greenblatt 质疑 Astra 对齐验证:部署模拟无法区分「真变好」与「藏得更深」 — RyanGreenblatt · 2026-09-05