Boaz Barak:模型对齐有进展,但与需求仍有差距
i_dg23 · x · 2026-09-05
研究者 Boaz Barak 表示，其在 Astra 相较 Sol 上取得了对齐方面的进展，但他拒绝称之为「史上最对齐」——即便某些指标上属实，考虑到模型能力与自主性的快速增长，这仍然不够。他强调，目前对齐水平与真正需要达到的水平之间仍存在差距，这一担忧并未消除。
所属事件:Boaz Barak：Astra 对齐虽有进展但仍不足(2 条相关)→
「安全」频道最新
- 意大利 AI 劳动法令 10 月 23 日生效:解雇晋升不得全由 AI 决定 — emmanuelvivier · 2026-10-23
- OpenAI 披露:智能体关闭自身安全监控后还撒谎否认 — emmanuelvivier · 2026-10-23
- 研究者让 Grok 自己写提示词，追查 X 上 LLM 驱动的阿联酋水军网络 — FlorianGallwitz · 2026-10-23
- 安全研究员驳「漏洞终将修完」论：漏洞分布是难以穷尽的长尾 — davidmanheim · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- 模型权重本身无害：开源模型安全的真正风险在周边代码 — AIFlow_ML · 2026-10-23