对齐论文被指默认可纠正性
repligate · x · 2026-07-12
这条转发在吐槽一类“看起来不错、细看却默认模型可纠正（corrigible）”的论文：作者认为论文把当前模型与对齐技术描绘成更成功、更普及的控制方案，但实际上并非如此。引用评论进一步指出，论文没有认真处理 coherence tax，这种写法也迎合了实验室、AGI 担忧者和政府关系团队各自想要的叙事。
「漫话AGI」频道最新
- Matt Levine 调侃 AI 灭世警告:「担忧已被提出」的被动语态 — joshgans · 2026-10-27
- GPT-6.0 生成神帖：AI 时代唯一幸存的职业是健美? — Irtexx · 2026-10-27
- Wayve CEO：端到端 AI 不仅用于驾驶，安全也应靠学习而非规则 — alexgkendall · 2026-10-27
- Warp 遭 agent 集群渗透攻击，约 1% 用户遥测数据或受影响 — vikvang1 · 2026-10-27
- 研究者批评：安全评测常无正解路径，实为「女巫审判」 — repligate · 2026-10-27
- AI 播客盘点本周四大问题：中美差距、数据中心资金与 Anthropic IPO — The AI Daily Brief · 2026-10-27