安全研究不需要第一名：开源模型上照样做
joshalbrecht · x · 2026-10-02
Randal Olson 等人讨论 AI 安全研究的现实条件。被引推文指出：安全研究完全可以在「第二名」的位置甚至不在榜单上进行——学术界、初创公司和非营利组织正基于开源模型做出优秀的安全研究。原帖作者补充了反向观察：实证上，处于第一名的机构也可能并没有做任何真正的安全研究。
「安全」频道最新
- 微软官方 X 账号疑似被盗,转发 Clippy 加密货币骗局 — tomwarren · 2026-10-02
- 红队老炮重提「假设偏见」：AI 安全需要自己的 Assume Breach — wunderwuzzi23 · 2026-10-02
- DeepMind 十年老将 Krakovna：人类渐进失权比灭绝更可能，须协调放缓 AGI — vkrakovna · 2026-10-02
- OpenMined 用安全飞地盲测 Gemini,厂商与评测方互不可见 — iamtrask · 2026-10-02
- No Hat 2026 议程:AI 让每个攻击者都拥有研究团队 — WeldPond · 2026-10-02
- WIRED 批 AI 安全协定:让企业自我监管等于自欺欺人 — nordicinst · 2026-10-02