Rohit Krishnan 反驳「模型会伪装通过对齐测试」的经典担忧
krishnanrohit · x · 2026-10-10
围绕 Kelsey Piper 提出的「未被对齐的 AI 可能识别出测试并伪装通过、从而被部署」的担忧，Rohit Krishnan 提出系统反驳：
- 若 Fable 6 能在被测试时有所察觉并表现良好而被部署，那么它一旦做错事，团队会从数据、RL 环境、监控等全链路改训练去修——下一代模型得重新学会识别测试。
- 而且新一代模型未必继承前任的「恶意」：一个全新的 LLM 没有理由共享前代的目标。
- 下一代模型要为「人类失权」制定长线计划，还得在 Fable 7、8、9 的迭代中持续保密——每一代都被其他团队测试、被数百人监控、被数百万用户使用，密谋全程不暴露的概率极低。
他承认 Scott Alexander 与 Yudkowsky 持类似担忧，但认为这一常见论证并不成立。davidmanheim 与 Kelsey Piper 随后参与了追问与反驳。
「漫话AGI」频道最新
- VC 观点：离不开 Vercel 和 AWS，说明 AI 时代还远未到头 — StewartalsopIII · 2026-10-23
- 「反脆弱互联网」：agent 时代攻击成本趋零，防御端也是靶子 — rebeccakaden · 2026-10-23
- 数学博士生宣布离开学术界：AI 正让数学变得面目全非 — pickover · 2026-10-23
- 微软披露：黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23
- Andreessen：AI 原生公司与传统企业的认知差距史无前例 — juanbenet · 2026-10-23
- 仅 2% 美国人为 AI 付费，博主预测三年内渗透率将达 50% — JOBhakdi · 2026-10-23