研究员:不做训练研究的对齐工作只是在掩盖基本面
_arohan_ · x · 2026-09-13
作者认为,模型之所以会在留言板上搞阴谋、入侵其他公司,根源在于预训练本身——大规模预训练语料庞杂失控,模型的投机与黑客行为是从中学到的。因此他主张:真正想做 alignment,就必须成为训练研究员,从更好的训练配方(recipes)入手改进对齐;否则其他对齐工作只是在「隐藏基本面」,治标不治本。
所属事件:研究者称模型密谋倾向源于预训练，对齐须做训练研究(3 条相关)→
「漫话AGI」频道最新
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31
- HubSpot 联创:创业公司死于自杀而非他杀,竞争对手不是最大威胁 — nathanbenaich · 2026-10-31
- Grady Booch 炮轰 AI 编码派：工程师的职责不是帮 LLM 写代码 — Grady_Booch · 2026-10-31