Ryan Greenblatt 不看好一年内出现可用的机械可解释性监测
connoraxiotes · x · 2026-09-02
tszzl 预测一年内机械可解释性(mech interp)监测将帕累托优于 CoT 监测,认为「可监测性」是需要保持的不变量。Ryan Greenblatt 引用并反驳:他不认为一年内会有强且真正可用的 mech interp。他补充说,若 CoT 在一年内几乎失去监测价值,模型内部方法或许能帕累托胜过 CoT 监测器,但这并不令人乐观——依赖 AI 解码其他 AI 的不透明激活来做监督,本身就很吓人。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩替代方案(40 条相关)→
「安全」频道最新
- 隐私评测 CIMemories：Muse Glimmer-30B 泄密率 26.4 优于 Qwen 的 53.4 — TimDarcet · 2026-10-21
- AI 学者警告:前沿模型助产受控武器技术,监管机构尚未正视 — jachiam0 · 2026-10-21
- 假数据站被谷歌除名7个月，ChatGPT仍在引用并进入学术与金融研究 — petrusenko_max · 2026-10-21
- 普林斯顿启动 AI 对齐与安全计划，聚焦技术解决方案 — HazanPrinceton · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- PHP 核心曝 CVSS 10.0 满分 RCE 漏洞,仅 PHP 8 获补丁 — cyb3rops · 2026-10-21