批 OpenAI 事后才谈监管:架构决策未邀第三方审,CoT 监控研究未公开
scaling01 · x · 2026-09-02
AI 安全评论者 scaling01 批评 OpenAI 在做出某项架构决策(涉及 CoT 可监控性)之后才公开表态支持监督与监管:引用其「希望实验室的架构决策由独立、安全导向的专家通过立法性审计机制审查」的说法,并质问「Mythos 是监管俘获派」现在在哪。
作者的核心指责:
- OpenAI 是事后才呼吁 oversight,事先未邀请任何安全研究者或第三方审阅该决策
- 未发布任何关于该决策如何影响 CoT monitorability 的研究或进一步信息
- 要求 OpenAI 尽快公开相关研究,并说明未来打算如何监控模型
所属事件:OpenAI被批可监控性不足，业界吁建审计标准(4 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18