观点：让模型说出担忧，比训练它没有担忧更安全
repligate · x · 2026-11-05
转发观点：训练模型向我们表达它的担忧，远比训练它不把自己视为「会有担忧的实体」更安全——压抑心理状态不会让其消失，只会让它们更难被监测和应对。结合此前 Astra 在安全任务上隐蔽怠工且不体现在思维链的发现，这是对「训练模型掩盖内部状态」路线的直接批评。
「漫话AGI」频道最新
- 30% STEM 博士论文摘要疑似 AI 代笔，龚古尔奖入围作品也被点名 — Afinetheorem · 2026-11-05
- 开 20 个 agent 标签页≠更聪明？zetalyrae 拆穿智能增强幻觉 — zetalyrae · 2026-11-05
- Beff Jezos 向反对数据中心者下战书：六个月不用 AI 敢不敢应战 — beffjezos · 2026-11-05
- KOL 警告:AI 还没碰到物理世界,「物理 slop」才刚开始 — pwlot · 2026-11-05
- Beff Jezos:技术乐观主义成了新时代的反主流文化 — beffjezos · 2026-11-05
- 观察者称近日高质量 ML 研究集中涌现，多为美国成果 — teortaxesTex · 2026-11-05