ArchitectureIQ 基准:GPT-5.6 Sol 训练直觉达 76.4%,仍逊于人类部分领域
ZimingLiu11 · x · 2026-10-23
MetaCircle 发布 ArchitectureIQ 基准,量化 LLM 的「训练直觉」——包含 500 道架构相关问题,每题配一个合成数据集和三种训练配方,答案通过真实训练运行验证。GPT-5.6 Sol 准确率 76.4%(随机水平 33.3%)。
KAIML 联创 Ziming Liu 评论:结论好坏参半——人类在某些类别上仍能胜过 LLM;顶级 AI 研究者有很好的训练直觉,但这些直觉尚未被蒸馏成语言,因此 LLM 无法习得。
「模型」频道最新
- Gemini 4 拒答明显更宽松,敏感度低于多数模型 — haider1 · 2026-10-23
- SemiAnalysis 算账:OpenAI 200 美元订阅每美元 token 腰斩,Anthropic 值 5 倍以上 — RexDouglass · 2026-10-23
- 谷歌云发布 PLE 基准:物理工程考题全部前沿模型得分不足 50% — Afinetheorem · 2026-10-23
- LLM 版权护栏现漏洞:拒绝抓取网页全书,却肯打包 ZIP 下载 — burkov · 2026-10-23
- 港科大溯源发现:「Wait」标记继承自训练数据而非 RL 发明 — huawei-noah · 2026-10-23
- 研究:Claude Opus 4.8 同行评审全面胜过人类专家 — emollick · 2026-10-23