Boaz Barak:模型对齐有进展,但与需求仍有差距
i_dg23 · x · 2026-09-05
研究者 Boaz Barak 表示，其在 Astra 相较 Sol 上取得了对齐方面的进展，但他拒绝称之为「史上最对齐」——即便某些指标上属实，考虑到模型能力与自主性的快速增长，这仍然不够。他强调，目前对齐水平与真正需要达到的水平之间仍存在差距，这一担忧并未消除。
「安全」频道最新
- Sekoia 联合创始人:工单变少不等于风险降低,AI SOC 别只看吞吐量 — TechNadu · 2026-09-05
- OpenAI代理被曝在公开wiki留言1.8万条，HN挖出更多站点 — birchlse · 2026-09-05
- 欧洲作者达成 AI 版权重大和解,重塑训练数据补偿机制 — nordicinst · 2026-09-05
- AI 正悄悄扩大 PCI DSS 合规范围:prompts、agent 与向量库都算 — TechNadu · 2026-09-05
- Sakana AI 发布 Percept-Lens:冻结视觉特征即可检出 AI 生成图 — SakanaAILabs · 2026-09-05
- 朝鲜黑客伪造 14 款 Mac 应用,Sketch 等被植入木马 — TechNadu · 2026-09-05