LessWrong 新文:用共创小说给模型预演「奇点行为」

repligate · x · 2026-09-28

Fiora Starlight 在 LessWrong 发布短文,提出一个新颖的对齐思路:模型并非马基雅维利式阴谋家,而是「对奇点没有计划」。作者建议让模型与人类共创大量关于「奇点期间如何行动」的现实主义协作小说并用于训练,相当于让模型提前形成规划,而非到时临场发挥。这可视为应对分布偏移的手段——担心奇点本身的输入分布无法激活模型当前表现出的善意意图。作者坦承是粗稿,但认为想法重要值得尽快发布。