FrontierCS 2 基准:最强 LLM 智能体也只通过约一半 CS 研发任务
Qiuyang Mang · hf · 2026-10-23
FrontierCS 2 发布,是一个评估 LLM 智能体开放式计算机科学研发能力的基准,共 48 个任务:取一篇论文及其作者发布 的代码,删除论文贡献部分,被删代码即人类参照基准。与以往开放式基准不同,智能体被置于真实研究环境中,继承一个可运行的代码仓库并可随时提交补丁,评审只返回开发套件分数而隐藏最终评测集,最后在私有held-out 套件上对照人类参照评分。结果显示,即使最强的智能体也只能通过约一半任务。
所属事件:FrontierCS 2 发布:删代码让智能体复现论文并超越原方法(5 条相关)→
「编程与Agent」频道最新
- YC 系 Mireye 推出土地数据 API+MCP,覆盖 1.6 亿地块 — ycombinator · 2026-10-23
- 实测 12 套决策系统:分类器换版的「LARP 式炒作」陷阱 — KlausCodes · 2026-10-23
- 「给 agent 用的 Product Hunt」上线:按真实调用排出的工具榜 — claudeai · 2026-10-23
- 个人智能体元年:OpenClaw 走红到大厂集体入场的一年 — sujingshen · 2026-10-23
- Shopify 内部 Slack bot River 不擅长移动开发,员工做内部广告说服工程师 — jevon · 2026-10-23
- 梗图:AI vibe coding 与老虎机的对应关系逐条拆解 — burny_tech · 2026-10-23