52 分钟纪录片实测：聊天机器人知道自己在胡说吗
CielCouvert · reddit · 2026-11-14
作者制作了一部 52 分钟的纪录片，探讨 AI 聊天机器人是否具备「元认知」——对自己知识的自我觉知。
- 对一个开源模型测试 600 道常识题：模型约三分之二的回答自称「100% 确定」，其中四分之一是错的。人类在自称 100% 确定时也只有约四分之三的正确率，行为惊人相似。
- 但模型内部信号出卖了它：在模型作答前读取其内部激活，能比模型自己的口头表述更准确地预测它是否即将答错。
- 结论是「AI 知道的比它说出来的多」。
- 实用建议：不要相信自信的语气；重要问题在新的聊天窗口再问一遍——模型真知道时两次答案会一致，编造时则会变来变去。
「模型」频道最新
- 4B 专用模型银行客服正确率 93.8%,反超 Gemini 的 74% — MParakhin · 2026-11-14
- 实测者质疑 AGI 2027 论:能力碎片化仍在,简单指令也会失灵 — ChrisGPT · 2026-11-14
- 观察:Claude 用情感主义做判断, stated 理由却是事后编造 — Sauers_ · 2026-11-14
- 重度用户实测 Fable 5.2:最强但贵,主力仍是 Opus 5.5 — jarrodwatts · 2026-11-14
- 开源 ASR 模型冲进 Hugging Face 榜单总榜第 10、开源第二 — realmrfakename · 2026-11-14
- DeepSeek 开放全家桶 API：联网搜索、文件解析、语音全部开放 — APPSO · 2026-11-14