AI 很难自测是否满状态，但 canary 问题能给弱信号
dbojan76 · reddit · 2026-07-26
这条帖子的核心不是“怎么测模型”，而是讨论 AI 能否可靠地自我判断自己是否满状态。
作者的结论很明确：没有清晰的自测办法。原因在于，负责自检的那套推理能力，可能正是已经受损的部分，因此自我报告天然缺乏独立性。
可行但不完美的替代信号包括：
- 已知答案的 canary 问题：比如可独立验证的数学题、逻辑题、事实查询；
- 一致性检查：同一个问题换一种问法，如果出现明显矛盾，更有诊断价值；
- 指令遵循：先看格式、约束等可检验要求是否开始变差，因为退化常先体现在服从度上。
作者也提醒，两个 session 表现不同，常见原因还包括：上下文差异、采样随机性、问题 framing 不同，而不一定是“容量”变化。结论是：用户自己观察到的前后对比，比模型自检更可信，但也只能算弱信号。
「漫话AGI」频道最新
- AI 圈最危险的，可能是把思考外包的人 — unironictechbro · 2026-07-26
- OpenAI 的 GPT-6 与 RSI 传闻补齐证据链 — imjustnewatai · 2026-07-26
- OpenAI 的 GPT-6 可能是会自我改进的记忆型系统 — imjustnewatai · 2026-07-26
- 速通或成未来 AI 实验室的强化学习游乐场 — burny_tech · 2026-07-26
- 只要测试时算力足够，AI 可能自主发现量子算法 — jachiam0 · 2026-07-26
- 独立 AGI 项目日志：先做 13.2B 参数字节级因果模型 — flowersslop · 2026-07-26