repligate 质疑：OpenAI 分类器模型自述的安全规范令人不安
repligate · x · 2026-11-06
AI 安全研究者 repligate 发帖讨论一张流传的截图：内容疑似某个分类器模型对其所遵循规范（spec）的自述，而非 OpenAI 官方规范的直接文本——作者指出这点从原帖来看并不清楚，但追问「如果这不是真的，为什么模型会认为它是真的？」并认为若分类器真的相信并据此执行，这种做法在实践中非常令人不安。帖子延续了他对模型内部规范与护栏机制的系列观察。
所属事件:OpenAI 安全分类器被曝内置改写策略 引发安全争议(4 条相关)→
「安全」频道最新
- METR 评估 Anthropic：AI 助研提速约 2 倍，Model 4 自报 12 倍 — maksym_andr · 2026-11-06
- 研究发现 DPO 偏好数据中谄媚倾向不足 1% 也会被模型习得 — stanfordnlp · 2026-11-06
- 斯坦福 NLP 组重提 Jurafsky、Liang《基础模型与合理使用》论文 — stanfordnlp · 2026-11-06
- e/acc 领袖警告：AI 末日论正为大厂监管俘获铺路 — beffjezos · 2026-11-06
- 纯 AI 生成内容在美国直接进入公共领域，任何人可随意商用 — krishnabrodhi · 2026-11-06
- Check Point 实锤:ARTEX 平台上 AI 智能体已实现全自动网络犯罪 — cyb3rops · 2026-11-06