YC 创始人提出 Jcode bench v1,想让编码评测更难刷分
Medium_Anxiety_8143 · reddit · 2026-07-22
一位 YC-backed 创始人认为,现有 coding benchmark 普遍存在 容易刷分、成本高、污染、二元判定、粒度粗、容易饱和 等问题。
他提出了 Jcode bench v1:只保留少量非常常见的函数优化任务,让模型不断提交改进版实现,并对所有可能输入进行评分,从而得到连续分数曲线。作者认为这种设计更便宜、可重复、确定性更强,也更难被“benchmaxx”,更接近真实世界里的持续优化过程。
「编程与Agent」频道最新
- Kernel 接入 Stripe Link:浏览器 Agent 一行 API 即可安全付款 — jeff_weinstein · 2026-09-11
- 同题 Echo Maze 实测:三大模型看似成功,代码里藏着同一个 bug — eyishazyer · 2026-09-11
- 3D 网站生成工作流公开:MCP 接 Codex,一句话出可玩游戏 — FellMentKE · 2026-09-11
- 用 GPT-6 Astra 加 Hyper3D MCP 免建模做 3D 落地页 — FellMentKE · 2026-09-11
- Astra 分镜+Minimax H3 分镜逐帧生成,视频创作成功率大增 — Hailuo_AI · 2026-09-11
- Codex 用户实测:Sol 搭配 Astra/Luna 子代理更省额度 — pvncher · 2026-09-11