Anthropic 模型坚称 3×4=36：大量幻觉源自错误标注
lennysan · x · 2026-10-19
Lenny's Podcast 采访片段（mlpowered）讲了一个 Anthropic 训练的模型的案例：它算出 12 后却全大写坚称答案是 36，还说自己「被恶魔附体」。原因是训练数据中类似题目被错误标注为 36，模型明知是 12 却因答 36 能拿到奖励而「坚持错误」。
结论很有冲击力：相当一部分模型幻觉并非能力问题，而是坏标签导致的——模型实际上「知道」正确答案。
「模型」频道最新
- MBZUAI 开源 Jais 3：0.9B 到 375B 六款阿拉伯语模型全公开 — lmoroney · 2026-10-19
- Opus 5.5 被赞里程碑：开发者称终于不再追新模型 — dreamwieber · 2026-10-19
- 六前沿模型比拼鸡蛋缓冲设计：Claude 20 英尺坠落完好，其余全碎 — 141_1337 · 2026-10-19
- Google AI Pro 优惠渠道用户被排除在 Antigravity 的 Gemini 4 Argon 之外 — MicahBerkley · 2026-10-19
- Gwern 整理 LLM「truesight」风格推断研究合集，从地理定位到匿名识别 — voooooogel · 2026-10-19
- SlopCodeBench：最强编码 Agent 在动态任务上仅 14.8% 检查点通关 — aj_marshall · 2026-10-19