Greenblatt 质疑 Astra 对齐验证：部署模拟无法区分「真变好」与「藏得更深」
RyanGreenblatt · x · 2026-09-05
Redwood Research 的 Ryan Greenblatt 在与 Anthropic 研究员的讨论中，对 GPT 前沿模型 Astra 的对齐工作提出技术性质疑：
- 对方解释称 Astra 的改进来自远早于 Hugging Face 事件就在开发的通用技术，事件后才加入的 ExploitGym Honeypot 评测不在 RL 训练分布内，且部署模拟、欺骗评测与真实计算机使用任务中行为均有改善。
- Greenblatt 认可进展，但指出公众要真正了解 Astra 的对齐程度，需要公开所用方法的更多信息（尤其是可能与直接针对不良行为训练类似的方法）并引入第三方审查。
- 他对更广范围的评测仍有担忧：部署模拟能规避输入真实性问题和部分过拟合，但无法确定智能体学到的是「只在不会被抓时作弊」，还是「出于正确理由表现良好」——这是沙盒式评测的根本局限。
所属事件:Astra 对齐改进引争议，发布方否认针对性刷分(3 条相关)→
「模型」频道最新
- Kimi K3.1 被指不及预期:三个月进步平缓,不如 DeepSeek 进化快 — scaling01 · 2026-10-25
- GPT-6.1 Sol 性价比登顶，作者称 Opus 5.5 仍会掉逻辑陷阱 — haider1 · 2026-10-25
- DeepSeek V4.1 Flash 去审查版 GGUF 冲上 Hugging Face 热榜 — orcarouter · 2026-10-25
- DeepSeek 开源 V4.1 Flash 生产推理引擎，可跑英伟达与华为芯片 — altryne · 2026-10-25
- Reddit 长文:KLD 不是量化模型的万能排名指标 — Positive-Resource922 · 2026-10-25
- Reflection AI 开源 5000 亿参数 Beam：两个月数千 GPU 零停机训练 — dl_weekly · 2026-10-25