AI 味盲测细节:人作 0 次胜出,30% 判定因顺序翻转作废
PawelHuryn · x · 2026-09-07
- Pawel Huryn 补充盲测细节:3 个任务限 500 词内;人类对照用 LinkedIn 任务,把自己的 15 篇 2021-2022 年(ChatGPT 出现前)旧帖与各模型输出按同样规则对比,360 次判定中模型被选 355 次、人作 0 次、5 次翻转——结果反常到连作者自己都不舒服。
- 翻转(评审在交换顺序后改变选择)占全部判定的 30%,一律作废;两位评审看到同一对并都坚持判断时,一致率达 89%-97%。
- 作者承认无法完全控制的一点:xAI API 会注入隐藏 system prompt,Grok 是唯一没跑在空 system prompt 上的模型。
所属事件:12 模型「AI 味」盲测:Gemini 3.8 最易露馅(3 条相关)→
「模型」频道最新
- php2shell 漏洞实测:仅 2/5 前沿模型能完成利用移植,耗时 3.5-6 小时 — xeophon · 2026-10-27
- Qwen Code 发布 v0.26.2 预览版:新增会话权限规则与实验性共享 Agent Loop — qwen-code-review-bot · 2026-10-27
- GPT-6.1 Terra 事实错误率从 22.3% 降至 4.3%,降幅近 81% — haider1 · 2026-10-27
- GPT-6.1 Terra 发布:早期用户称写作与 computer use 表现亮眼 — BenBajarin · 2026-10-27
- GPT-6.1 Terra 跑分曝光:成本低至 Sol 一半,追不平 Astra — Angaisb_ · 2026-10-27
- Artificial Analysis 更新智能指数 v4.3.2,GPT-6.1 Terra 参与横评 — ArtificialAnlys · 2026-10-27