四年前的脑洞被验证:写人类与 AI 友好的科幻或能影响对齐

gharik · x · 2026-11-08

作者 John Hong 提出一个想法:四年前他认为可以通过大量创作「人类与 AI 和谐相处」的科幻故事来帮助 Human/AI 对齐,理由是现有故事多为对抗叙事,而预训练数据塑造模型的「核心天性」,post-training 只是后天经验。

当时他只是零星发帖提及,没有真正推动。如今有人指出 Anthropic 今年的论文基本印证了这一思路,他感叹自己错过了更早推广或成立公益组织来生产此类数据的机会。