新基准 AutoResearchExam:给 AI 研究员 24 小时机器,实测 Agent 做科研的真实水平
AlexGDimakis · x · 2026-09-10
Alex Dimakis 团队发布 AutoResearchExam,一个针对开放式机器学习与工程任务的基准,覆盖模型训练、数据整理、AI 安全与可解释性等七个研究方向。
- 每个任务给 Agent 一台 CPU 或 GPU 机器、24 小时,通过实验和反馈迭代方案,用速度+质量的综合分计分
- 独特设计:检验 Agent 的改进能否在从未见过的数据上成立——发现研究型 Agent 在自我改进时经常过拟合
- 前沿对决:Astra 起步最强、领先约 19 小时,但 Fable 5.1 在最后几小时反超拿下第一
- Qwen3.8 Max、Gemini 3.8 Flash、Grok 4.6 处于性价比梯队
所属事件:AutoResearchExam：24 小时真机评测 AI 智能体自主科研(7 条相关)→
「编程与Agent」频道最新
- BELL stack 开源：浏览器+Agent 框架+iMessage+支付，一套搭个人智能体 — jeff_weinstein · 2026-10-27
- 法律 AI 公司 Legora 在 Modal 上并行跑 2000 个 agent eval — blelbach · 2026-10-27
- 两名工程师用 AI 3.5 个月重建 FedEx 供应商计费核心,原估 7-8 个月 — alex_verem · 2026-10-27
- AA 实测 GPT-6.1 Terra:编码 Agent 得 48 分,成本仅前代三分之一 — ArtificialAnlys · 2026-10-27
- Shift-1 模型路由器发布：编码 Agent 成本最高降 55% — ypatil125 · 2026-10-27
- 零基础用户用 Claude Code 两周 vibe coding 出一款 Godot JRPG — ADHDavid · 2026-10-27