ToM2Vec 向量可解释性验证：信念/欲望/行动三项探测全面领先
EliasEskin · x · 2026-10-22
为弄清 ToM2Vec 向量里编码了什么，作者在 Overcooked 中直接向智能体提问伙伴的信念、欲望与下一步行动（贝叶斯 ToM 探测）。
- ToM2Vec 在三类探测中全部最高：相比各类最强基线分别提升 5.6、2.0、2.7 个百分点（绝对准确率 52.3% / 62.3% / 64.0%）。
- 观察到信念修正现象：当伙伴朝洋葱或餐盘分发器移动时，模型对与该轨迹一致的推理的信念权重随之上升。
这些分析支持该解释：ToM2Vec 学到的是会随新证据更新的伙伴表征。
所属事件:ToM2Vec 实验证实：潜在向量编码心智且跨模型泛化(3 条相关)→
「研究」频道最新
- MIT 开新课讲自进化 AI:覆盖上下文、模型、任务四级进化 — pliang279 · 2026-10-23
- AI 每日实验规划 agent:一个 prompt 帮科学家省去跑腿确认试剂库存 — nlarusstone · 2026-10-23
- Phylo 与拜耳达成合作，Biomni Lab AI 科学家平台进驻其研发团队 — KexinHuang5 · 2026-10-23
- 研究：ChatGPT 记忆 96% 由系统单方面写入，并暗建心理画像 — alex_verem · 2026-10-22
- AI2 OlmoEarth 遥感嵌入在 11 项评测中 10 项领先 AlphaEarth — allen_ai · 2026-10-22
- Elvis Saravia 实测决策模型做论文分诊：Drex Max 表现强，将投入生产 — omarsar0 · 2026-10-22