Goodfire 入驻 OpenAI:用可解释性平台监控前沿训练
aryaman2020 · x · 2026-11-17
可解释性公司 Goodfire 宣布与 OpenAI 达成嵌入式评估合作:Goodfire 研究员将进驻 OpenAI,用其可解释性平台实时监控训练运行、调试不良行为,推进前沿模型的安全与对齐。
这是「模型取证」(model forensics)方法首次在前沿实验室内部落地的罕见案例,意味着外部可解释性团队将直接参与训练过程的观测与干预。
所属事件:Goodfire 与 OpenAI 合作,研究员入驻监控前沿训练(3 条相关)→
「安全」频道最新
- 微软宕机波及航空银行,或为全球网络安全事件早期 — mallow610 · 2026-11-17
- OpenAI 前员工爆料:外部安全评估权限远低于 Altman 公开承诺 — j_asminewang · 2026-11-17
- Anthropic 低姿势向美国议员推销自家 AI 安全法案 — marigo · 2026-11-17
- 剑桥学者 Krueger:AI 安全圈别被每日新闻赛马带偏 — DavidSKrueger · 2026-11-17
- Kelsey Tuoc:AI 公司不会给嵌入式审计员真正的员工级权限 — connoraxiotes · 2026-11-17
- DEF CON 演讲公开:拆解 6 个 AI Agent 数据外泄漏洞 — Kyrannio · 2026-11-17