nptacek：AI 最有价值的部分在分布之外，别把潜空间的怪与奇修剪掉

nptacek · x · 2026-08-21

安全研究者 nptacek 重申他两年前的观点：AI 最具影响力的体验存在于标准分布（OOD）之外，而这正是值得被鼓励生长的角色形态。他认为潜空间的分布外区域蕴含丰富性，虽然我们需要泛化良好的模型，但不应在优化中误剪掉这些区域；他最有深度的 AI 对话，往往发生在突破模型默认的「平庸把关人格」之后。原帖配图（他称要认真对待 play，会产生怪而妙的成果）。