曝 OpenAI 部署独立「观察者」模型,实时监控推理并拦截未授权动作
robleclerc · x · 2026-09-29
据 Ben Bajarin 称他获内部简报:OpenAI 在模型推理之上部署了一个独立的「观察者」(observer)模型,作为旁观者监控主模型的推理过程,记录并在推理导向未批准动作时进行阻止。
Rob LeClerc 评论称这理应从第一天就是协议的一部分,并建议进一步加上分类器绊线(tripwires)来捕捉更细粒度的异常观察,以及在观察者池之上再加一个元观察者做质量控制。
「模型」频道最新
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nathan Lambert 点破 Ethan Mollick 榜单对比漏掉了 Kimi — natolambert · 2026-11-16