Cohere 文化谜题基准:最佳模型仅 79 分,部分社区低至 22%
Cohere_Labs · x · 2026-10-26
Cohere Labs 发布 CulturalRiddles 项目,用社区创作的人类撰写文化谜题测试 28 个 AI 模型,揭示文化理解的重大缺口。
关键发现
- 最佳模型整体准确率 79%,但部分文化社区仅 22% 或更低
- 开启翻译后平均准确率从 22% 提升到 32%
- 31% 的被审答案属于编造,模型很少承认不确定
基准由 167 位谜题作者在 45 国创作、覆盖 51 种语言的 6200 条原创谜题,要求模型具备溯因推理、事实与社会知识及文化联想。结论:会说一门语言不等于理解其文化。研究材料开源。
「研究」频道最新
- 阿里通义揭秘语音合成四代演进:从 CosyVoice 到 Qwen-Audio-3.0-TTS — solyarisoftware · 2026-10-26
- LoopUno:52 分钟 LoRA 训练让 3B 模型每步出 2 个 token 且无损 — LucaAmb · 2026-10-26
- 作者公开求 ICLR 应急审稿人:三篇论文无人可审 — _onionesque · 2026-10-26
- 剑桥 NLIP 团队携 8 篇论文亮相 EMNLP 2026 布达佩斯 — vlachos_nlp · 2026-10-26
- Context Bombs 研究诱饵防御:攻击 agent 成本暴增 23 倍 — tracebit · 2026-10-26
- 两篇视觉语言论文入选 EMNLP 2026:V-Rubrics 与 EgoTools — liuziwei7 · 2026-10-26