实验室用 AI Agent 造模型:仅 0.7% 情况人工接管
alex_verem · x · 2026-09-20
开源模型 Atria Dawn 团队发布了一份自我分析报告,基于 769 条任务记录和 56 名成员的 Agent 日志,研究 AI Agent 如何参与自家模型的研发:
- AI 无处不在:96.5% 的记录在案任务都有 AI 参与;三分之一的 AI 辅助任务,研究者认为没有 AI 根本不会有人去做——不是做更慢,而是压根不会尝试。
- AI 出主意,人拍板:超过一半的方法决策由 AI 首先提出选项;但最终决定权仍在人手里(方法决策 85.5%、目标决策 93.4% 由人定)。
- 接管极少发生:Agent 卡住时约四分之三的情况有人介入,但只有 0.7% 是人直接接管工作,绝大多数是人解释缺什么、让 Agent 自己修。
- 自动化程度飙升:四周内,每条人类指令对应的 Agent 平均操作数从 11 涨到 28.5。
作者坦承两个隐忧:每个人类决策背后依赖的 AI 工作量已超出个人可核查范围,人可能沦为「只会说 yes 的审查者」;而且许多研究员为了省事直接关掉了权限审批——便利性而非规划决定了 AI 获得多大权限。模型本身在 16 项 benchmark 中拿了 5 项第一,但这份建造过程记录可能比成绩更有价值。
「漫话AGI」频道最新
- RL 时代「遗忘」变简单：不给 RL 环境就删能力 — maksym_andr · 2026-11-13
- 「AI 不会在架构问题上被欺骗」：一场关于 AI 意识与福利的争论 — erikphoel · 2026-11-13
- a16z 前副国家安全顾问发文：用 AI 以机器速度防御美国关键基础设施 — a16z · 2026-11-13
- 「非意识 AI 可杜绝 AI 苦难」章节引热议：付不起 token 的 agent 像乞丐 — erikphoel · 2026-11-13
- 用 LLM 精读康德？作者称「康德式 Mentat」可能几乎不存在 — jessi_cata · 2026-11-13
- ADP 数据：AI 高暴露行业 30 岁以下就业大跌 7%，年长者反增 — ColinWPLewis · 2026-11-13