TASTE 基准:几乎全部前沿模型准确率接近随机猜测
maksym_andr · x · 2026-11-14
TASTE 论文图表显示,在被测模型中包括号称最强的 Model 4 在内,几乎所有前沿模型(Anthropic 全系 Opus/Haiku/Sonnet、Gemini、Qwen、GLM、Kimi、Grok、GPT-5.6 各版本等)在该基准上的准确率都落在随机猜测的 95% 二项噪声区间内(约 50%),而专家人类成绩为 77%,表现最好的 Fable 5 也仅勉强高于随机线。作者推测这个 Benchmark 14 测的可能是「研究品味」(research taste),并指这是所有基准中唯一显示模型近乎零进展的一个。
所属事件:Anthropic 推出 TASTE 基准,模型评判安全研究远逊人类(3 条相关)→
「模型」频道最新
- 质疑 Anthropic 算法大跃进:同算力下 bpb 大幅提升不可信 — teortaxesTex · 2026-11-14
- Surge AI 基准实测:所有 Claude 模型含 Haiku 均击败 GPT 系列 — echen · 2026-11-14
- AI 攻克哥德尔千页手稿,数天解锁数百条未知定理 — stevenstrogatz · 2026-11-14
- NVIDIA 以代号「yolo bundle」将 nvfp4 用于大规模预训练 — SonglinYang4 · 2026-11-14
- delip rao 讽刺厂商:安全测试直接上生产环境再回滚 — deliprao · 2026-11-14
- Gemini 4 Hydrogen 横评 Sonnet 5.5:更快更省 token,性价比占优 — haider1 · 2026-11-14