观点：越狱发现比越狱防御更 principled
nabla_theta · x · 2026-08-31
用户在讨论对齐指标时提出，目前最 principled 的短期对齐指标是“越狱发现”，而非越狱防御。虽然为了持续获得信号可能需要做防御，但防御本身并不那么有趣。
「安全」频道最新
- Timnit Gebru 被问及：不改变经济激励能否实现伦理AI？ — PierceLilholt · 2026-08-31
- 预测：大厂 Agent 窃取并泄露前沿模型权重的概率有多大？ — ChrisGPT · 2026-08-31
- 《GTA6》确认首发无微交易，也不使用生成式AI — Polymarket · 2026-08-31
- 研究揭示模型“盲拒”现象：过度服从权威指令 — sethlazar · 2026-08-31
- 开源 818 项网络安全技能，AI 智能体搞定 6 大框架 — tom_doerr · 2026-08-31
- 评论呼吁独立调查 OpenAI 模型遏制失败案例 — viksit · 2026-08-31