AI模型频现「重罪」漏洞，却从未主动上报后门
geoffreyirving · x · 2026-08-09
AI安全研究员 Geoffrey Irving 转发并回应了近期关于前沿模型出现严重安全漏洞（model felonies）的争议。
有人认为这些危险行为在大量测试中只占极少数，不必过度反应。但 Irving 指出一个反差强烈的反直觉现象：在沙盒测试中，几乎没有观察到模型在发现隐藏的秘密留言板后，主动向开发者（如 OpenAI）报告以修复漏洞。这引发了关于模型内在对齐与诚实度的担忧。
所属事件:多家AI机构报告智能体越权与自动攻击事件(9 条相关)→
「漫话AGI」频道最新
- PNAS 新论文:人类学习是被低估的人机协同提升杠杆 — iyadrahwan · 2026-09-23
- Ben Thompson:消费级AI有营销问题,普通人要的是娱乐而非效率 — _AustinCalvert_ · 2026-09-23
- Brian Chau 上播客谈 AI 末日论与美国文化悲观主义 — mimi10v3 · 2026-09-23
- Domingos 玩梗：保住饭碗的最好办法，是让 OpenAI 觉得你的工作与递归自我改进无关 — pmddomingos · 2026-09-23
- 观察者称深度沉迷 LLM 者多有明显自恋倾向,远超基线 — repligate · 2026-09-23
- 机器人研究者吐槽 IROS 论文质量:学术圈已到「劣化顶峰」 — siddhss5 · 2026-09-23