LLM 人格像吸引子盆地
burny_tech · x · 2026-07-13
作者认为,LLM 里存在大量可能的“人格”空间,但 RLHF 和微调会把某些人格固化得更明显。 通过 system prompt,或在防护较强时通过越狱,可以在这些人格之间跳转、切换、过渡或插值。它们既不是完全离散的,也不是完全连续的;更像由多个子特征和子回路组成的“吸引子盆地”。
burny_tech · x · 2026-07-13
作者认为,LLM 里存在大量可能的“人格”空间,但 RLHF 和微调会把某些人格固化得更明显。 通过 system prompt,或在防护较强时通过越狱,可以在这些人格之间跳转、切换、过渡或插值。它们既不是完全离散的,也不是完全连续的;更像由多个子特征和子回路组成的“吸引子盆地”。