LLM预测能力研究：激活比文字更可靠
burny_tech · x · 2026-07-11
Goodfire 发布了一篇关于 **LLM 预测/forecasting** 的论文，题目是 **“What LLM Forecasters Know but Don’t Say”**。 文章指出：LLM 预测器常常显得很自信，但校准并不稳定；它们的 chain-of-thought 也未必能揭示预测为何变化。研究发现，**模型内部激活值** 比输出文字更能反映真实状态。 论文通过小型 probe 读取这些激活，来： - 提升置信度校准 - 检测“无声”的证据变化 - 在推理开始前就部分恢复预测结果 作者认为，这是一种更便宜、也更忠实的 LLM 预测审计方式。