brwilder:拟人化之外,把 LLM 当工程系统解释行为更有效

brwilder · x · 2026-09-05

AI 研究者 brwilder 讨论 LLM 行为解释框架的演进。他认为「下一词预测器」「文化技术」等替代拟人化的心智模型,随着 LLM 远离预训练/SFT 阶段,对预测其行为的用处逐渐下降。他主张把 LLM 视为工程系统,将其行为归因于训练过程中的各个组成部分(如今包含许多组件),这是理解 LLM 的必要路径。同时他也承认,具体的拟人化解释可能出错——因为信念/欲望等目标导向行为的基本组件虽可能存在,但 LLM 获得它们的方式并不像人类。真正的精确性需要科学来建立。