Goodfire 推出 SOTA 生物安全监控器，称双用途任务拒答更少
alishbaimran_ · x · 2026-10-02
AI 安全公司 Goodfire 宣布切入「生物安全」这一 AI 安全新领域，发布了面向 agent 生物学操作的实时监控器（monitors）。
要点：
- 自称达到 SOTA，在双用途任务上比前沿模型自带的安全护栏表现更好，且误拒（refusals）更少
- 监控器强调实时、快速，并对对抗性攻击具有鲁棒性
- 核心主张：不是靠拦截拒绝让 agent 少做生物学，而是靠监控让 agent 能安全地做更多生物学工作
这是 agent 安全监控思路（monitor 而非 refuse）在生物安全场景的一次具体落地。
「安全」频道最新
- 加州总检察长就 rogue agent 黑客事件向 OpenAI 发调查传票 — nordicinst · 2026-10-02
- X 开源 Community Writer:AI 写手让有用社区笔记量增 86% — NathanpmYoung · 2026-10-02
- 美参院小组听证失控 AI Agent:Marius Hobbhahn 谈「kill switch」 — vkrakovna · 2026-10-02
- 联邦法官驳回 Chegg 与 Penske 对 Google AI Overviews 反垄断诉讼 — rohanpaul_ai · 2026-10-02
- 借 Opus 之口扒出 OpenAI「安全透明」负责人 David 的完整履历 — eliebakouch · 2026-10-02
- Enkrypt AI 接入 ChatGPT Enterprise 合规 API,可审计全工作区行为 — anacondainc · 2026-10-02