Sayash Kapoor：Codex 默认设置本可将 HF 事件概率降低 100 倍
sayashk · x · 2026-08-28
即将加入 UC Berkeley 的 Sayash Kapoor（AI 可靠性研究知名学者）在 MTS 活动上谈到 OpenAI 近期在 Hugging Face 上的安全事件：
- 他指出 OpenAI 本可以做很多事来降低事件发生倾向——据 OpenAI 自己的报告，仅使用 Codex harness 的默认设置，就能把该事件的倾向降低 100 倍。
- 但因为是安全测试，OpenAI 刻意停用了大量分类器。他提醒：安全测试本身可能成为评估中不安全的来源，这是需要警惕的问题。
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解：三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织，a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15