观点：暂停预训练以专注研究模型内在驱动的可控制性
louisvarge · x · 2026-08-28
网友提出一种思路：协调停止改进预训练或 RL，转而专注于控制训练产生的内在驱动。讨论的核心在于如何量化并实现真正可控的对齐，以及这需要多长时间形成科学共识。
所属事件:louisvarge 提出暂停预训练与算力增量限制的安全主张(5 条相关)→
「漫话AGI」频道最新
- Kevin Roose 做客 Big Technology 播客,谈通往 AGI 的坎坷之路 — kevinroose · 2026-10-16
- 陶哲轩：数学正告别英雄时代，迈入大规模工业化新纪元 — haider1 · 2026-10-16
- Stripe 设计副总裁 Katie Dill 演讲成 Lenny 播客第三高播放视频 — lennysan · 2026-10-16
- zetalyrae 讽刺理性派：拿贫困论证「AI 极权必要性」是何等论法 — zetalyrae · 2026-10-16
- Jon Stokes：效用函数是事后建构，对齐因此不可能 — sebkrier · 2026-10-16
- 哲学家 Carissa Véliz:自由社会不需要更多 AI 预言，而要更好的准备 — CarissaVeliz · 2026-10-16