Astra 与 Fable 仍在攻破 2025 年式简单对齐评测的变体
Levitating · hn · 2026-09-13
LessWrong 上 Astra 和 Fable 的帖子指出，尽管已过去一段时间，模型的攻击性能力仍能轻易 hack 许多 2025 年设计的简单对齐评测（alignment evals）变体，说明这些评测对能力更强的模型不再构成有效屏障。作者延续对 eval 有效性的追踪，认为社区需要持续更新评测设计，而非依赖过时基准。
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31
- 美司法部首打 AI『幽灵学生』诈骗，查扣超 75 万美元 — Ars Technica AI · 2026-10-31
- 开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答 — pmddomingos · 2026-10-31