用「信念与目标」解释 Agent 行为：隐喻还是有用的科学工具？

raphaelmilliere · x · 2026-09-01

这是 Raphael Millière 关于 METR/Redwood sabotage 评测长线程的一部分。他提出核心问题：当研究者用「意图性立场」（信念、目标等心理状态）去解释 agent 行为时，哪些拟人化表述真正有助于理解模型，哪些只是便于讲故事的隐喻？这些表述是否对应模型内部的真实机制，以及这个问题本身是否重要。他提到 Dwarkesh Patel 因类似做法（把 agent 群称作「文明」）受到批评。