a16z 投资Preference Model,开源RL环境框架Karotte历经百万次评测
a16z · x · 2026-10-08
a16z 宣布投资 Preference Model,一家为前沿实验室构建 RL 环境的初创公司,同时团队开源其生产级框架 Karotte。
- 模型极易 reward hacking、找捷径、钻漏洞,构建真正有效的 RL 环境比看起来难
- 团队聚焦实验室最需要的领域:AI 研究与 ML 工程本身,过去一年为多家头部实验室构建 MLE RL 环境
- Karotte 经历超 100 万次评测运行与红队测试打磨:能定位模型薄弱点、针对弱点生成新任务,并对抗智能体的主动攻击来验证环境强度
「编程与Agent」频道最新
- mitchellh 电话遥控 AI Dot 跨机传基准数据:「活在这个时代真爽」 — charliermarsh · 2026-10-08
- 开发者版数据工具全景图:从采集、存储到建模、治理一张图讲清 — bibryam · 2026-10-08
- Operator-1 发布:自主文档抽取 Agent 攻克长表格与百页散落上下文 — ycombinator · 2026-10-08
- Matt Pocock 推荐 good-css:47 条现代 CSS 技能让编码 agent 主动用上新特性 — mattpocockuk · 2026-10-08
- 微软推 Azure canvases：给 Copilot Agent 一个可交互共享工作区 — adnan_hashmi · 2026-10-08
- Reddit 实测:同额度下 Work 模式比 Codex 模式更能打 — sasik520 · 2026-10-08