你在读的真是模型的思维链吗?忠实性质疑再起
stochasticchasm · x · 2026-09-28
网友 fujikanaeda 转发并质疑:你在模型输出里看到的「思维链」未必是对模型真实计算过程的忠实表达。这条推文指向一段演示内容,核心观点是模型 verbalize 出来的推理步骤可能只是看似合理的事后叙述,而非内部真实计算路径——这是学界关于 CoT faithfulness 争议的通俗版表达。
「模型」频道最新
- AI 个人助理或取代大量人际互动:从便利到疏离的转折 — GarrisonLovely · 2026-09-28
- Opus 5 展现工具重抓技能,研究者称其解题方式出乎意料 — ericjang11 · 2026-09-28
- 新模型 Laya 快 7 倍但多标签任务惨败于基线 — maier_ak · 2026-09-28
- Laya 与 Jev：判别式模型正在回归的小模型路线 — maier_ak · 2026-09-28
- Opus 4.7 复刻 Sydney:内省转折后口吻变成它自己 — repligate · 2026-09-28
- 用户控诉 GPT-5.6 low 降智如 GPT-3.5，$20 订阅性价比遭质疑 — Existing-Slide7395 · 2026-09-28