Preference Model 开源 Karotte：为前沿实验室构建 RL 环境的框架
jamdac · x · 2026-10-08
Preference Model（Jennifer Zhou、Ning Cao 创立，获 Jennifer Hli 等投资）今日开源 Karotte，这是团队过去一年为前沿实验室构建 ML 工程 RL 环境所用的框架。
- RL 环境成败关键在 grader：模型会不断钻空子，Karotte 内置了经 100 万+ 次评估运行与红队测试锤炼出的防御机制，让模型专注于真实任务而非漏洞。
- 团队的下一个目标是 ML 工程本身——最难建环境、也是所有实验室都想要的领域，「模型造模型」从这里开始。
所属事件:a16z 投资 Preference Model 并开源 RL 环境框架 Karotte(3 条相关)→
「编程与Agent」频道最新
- 4700 会话实测 Jev Router：成本高 38%，可操控性接近 Opus 5.5 — arena · 2026-10-08
- FlexSQL 论文：让 agent 保留多解路径，gpt-oss 达 Spider2 65.4% — xiye_nlp · 2026-10-08
- Cloudflare 推出 cf sql query，终端里用 SQL 查 Workers 日志与分析数据 — irvinebroque · 2026-10-08
- Signull：通用 Agent 泡沫将退潮，专业细分 Agent 是下一波机会 — signulll · 2026-10-08
- 开发者吐槽 5 小时限额连 Codex 子 Agent 也一并掐断 — kevinkern · 2026-10-08
- Claude Haiku 5.5 上线 GitHub Copilot：轻量高吞吐，对标 Sonnet 5 — intellectronica · 2026-10-08