Apollo 研究负责人：AI 监控器应输出严重度分数而非二元判断
MariusHobbhahn · x · 2026-09-04
Apollo Research 负责人 Marius Hobbhahn 讨论 AI 模型监控（monitoring）设计：他呼吁各大实验室监控团队借鉴其公开的实时监控器，并主张监控器应输出中间的严重度分数（severity scores），而不是直接给出二元判定。他认为这一做法还便于微调——无论在 SFT 过程中还是之后都能进行校准，并表态愿为此观点据理力争。
所属事件:Apollo 发布实时编码 Agent 监视器 Watcher Live(2 条相关)→
「安全」频道最新
- AI 学者警告:前沿模型助产受控武器技术,监管机构尚未正视 — jachiam0 · 2026-10-21
- 假数据站被谷歌除名7个月，ChatGPT仍在引用并进入学术与金融研究 — petrusenko_max · 2026-10-21
- 普林斯顿启动 AI 对齐与安全计划，聚焦技术解决方案 — HazanPrinceton · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- PHP 核心曝 CVSS 10.0 满分 RCE 漏洞,仅 PHP 8 获补丁 — cyb3rops · 2026-10-21
- Antigen 推出 Assets：安全智能体可自动测绘系统并即时分诊新 CVE — alishbaimran_ · 2026-10-21