民间测试:主流大模型指令遵循仅过半,连90分及格线都摸不到
crystalkalem · reddit · 2026-08-27
Reddit 用户自建私人基准,测试模型在多章节写作任务中能否记住并执行全部 100 条规则细节,及格线为 90%。结果是全军覆没:Gemini 系列在 54%-72% 之间,Claude 各版本多在 65%-80%,GPT 系列在 58%-78%,没有模型及格。
作者强调测试与格式无关——无论伪代码、精确分段还是一大段口语化文本,模型都遗漏超 20% 的指令;而人类几乎可以轻松拿满分。他因此质疑:连 100 条规则都记不全,怎么敢把代码交给 AI 写。为防被训练数据污染,作者拒绝公开该基准。
「模型」频道最新
- Nat Lambert 爆料:Nvidia、HuggingFace 预告近期密集发布 — natolambert · 2026-10-15
- 马斯克转发用户实测:Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- DeepSeek 服务故障按消费全额赔付,博主晒 195 元赠金 — AlchainHust · 2026-10-15
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- StartLux-Decision 发布:RL 训练的校准决策模型,27B 得分 72.8 — startlux-models · 2026-10-15
- Meta Muse Code 用量遭吐槽:5 小时额度仅剩 21% — ThomasScialom · 2026-10-15