Boaz Barak:OpenAI 错位政策离不开挖掘监控日志的报告者
Miles_Brundage · x · 2026-11-16
Beth Barnes 称 OpenAI 在系统性事件报告方面比其他公司做得好,但仍远未达到理想透明度。Boaz Barak 回应认同应在透明度上做更多,并指出仅靠 misalignment policy 本身并不够,还需要像 Gary Marcus 这样的人去翻查监控日志、发现并报告事件。Miles Brundage 转发了这段讨论。
「安全」频道最新
- 用户让 AI 梳理数据中心审批,暴露繁琐许可流程 — PTrubey · 2026-11-16
- 腾讯移除 Hy4 模型网络攻击能力,月之暗面 Kimi K3.1 Pro 曾率先跟进 — pstAsiatech · 2026-11-16
- 中国 AI 公司能否在削减开源模型网络攻击能力的同时保持竞争力 — pstAsiatech · 2026-11-16
- tszzl:前沿模型上线前须过联邦安全审查,实为非官方许可制 — tszzl · 2026-11-16
- 前 OpenAI 政策高管:"吹哨"一词混用三种含义,须厘清保护边界 — Miles_Brundage · 2026-11-16
- 用户截图显示 Fable 模型主动点名上下文中的隐藏提醒指令 — teortaxesTex · 2026-11-16