SWE 新基准用 76 词短 prompt 考真工程决策,远短于同行 291-427 词
echen · x · 2026-10-23
HelloSurgeAI 介绍 sudo L7 基准的设计理念:刻意让 prompt 自然且简短,中位数仅 76 词,对比 DeepSWE、FrontierSWE 和 SWE-Marathon 的 291-427 词。例如一条 L7 级 prompt 只是「修复 threads 页面搜索,dev 模式下崩溃」;而 L3 通常会从 PM 那里拿到 400 词规格说明,L7 收到的是『把它变快』并自己判断何时忽略 PM。配套的 SWE-marathon 示例 prompt 配图展示了完整的 Tabula 电子表格产品规格:REST 契约、公式引擎(支持 Excel-365 语义、LET/LAMBDA、动态数组溢出)、错误哨兵与完整函数目录,说明这些基准要求 agent 处理现实工程中未被明说的决策——哪些数据可缓存、是否该缓存等。
「编程与Agent」频道最新
- Prime Intellect 公布持续学习路线图:从 agent「废气」里挖训练信号 — willcb · 2026-10-23
- Claude 花两天重写 vLLM:代码能跑但已成维护噩梦 — bingxu_ · 2026-10-23
- Percy Liang 在 MIT 开课「自进化智能体」,覆盖上下文/框架/模型三层进化 — pliang279 · 2026-10-23
- 用 GrokBot 做 OSINT 追源:还原伪造 AfD 邮件的传播链 — FlorianGallwitz · 2026-10-23
- intentoo:MCP 服务器让 AI 代理先谈判、人类再见面的意向匹配协议 — Appropriate-Ease2981 · 2026-10-23
- 两家前沿实验室悄悄砍掉 temperature 旋钮,生产级确定性输出受冲击 — SmartEnoughToFail · 2026-10-23