强制 yes/no 判定让模型对哥德巴赫猜想给出 95%+ 置信度
Nir777 · reddit · 2026-11-02
作者用一个「停机问题」测试程序(从 4 开始,检查是否为两素数之和,失败即停,否则加 2 重复——只有哥德巴赫猜想为假时才会停机;该猜想 1742 年提出至今未解,已验证到 4 quintillion)揭示 LLM judge 的提示词格式陷阱。
实验设置
- 模型:gpt-6.1-sol、gpt-6-astra(5 倍价)、claude-opus-5-5、claude-fable-5-1(2.5 倍 opus),无工具、默认设置。
- 强制 yes/no+置信度:16/16 次回答「不会停机」,置信度全部 ≥95%。
- 允许回答 unknown:12/12 次回答 unknown。
- 能力对照:在 7 个有已知答案的程序上(含 2 个陷阱),sol 和 opus 56/56 全对;5 倍价模型在开放问题上毫无增益。
核心结论
- 两种格式下模型都注明「此问题未证明」,唯一变量是输出格式——如果你的 harness 只解析标签和数字,强制版会被误读为高置信度判决。
- 理论依据:Turing(1936)与 Rice 定理(1953)说明不存在对所有程序都正确的判定器,judge/reviewer 不给 unknown 选项,必然把不可判输入变成假阴或假阳,置信度数字不会提醒你。
- 实践建议:给 LLM judge 显式 unknown 标签,并把 unknown 单独计数而非并入默认项。
「编程与Agent」频道最新
- 用 Claude 纯提示词剪完整条视频，视频剪辑师要慌了 — CodeByPoonam · 2026-11-02
- Cohere Labs 智能体团队构建方法降本 70%，兼顾效率 — Cohere_Labs · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Reddit 讨论：把 OOP 公有方法直接变成 AI Agent 可调用的工具 — out_of_nowhere__ · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02