Ben Lorica:先别等递归自我改进,harness 里的自动化改进更早到来
bigdata · x · 2026-09-09
Ben Lorica 在 Gradient Flow 通讯中区分三个常被混淆的概念:持续学习(系统从经验中变好)、有界自我改进(系统把经验转化为经测试的持久变更)、递归自我改进 RSI(系统改进产生改进的流程本身)。三者并非阶梯关系,可独立存在。
核心论点:
- RSI 主要吸引前沿实验室,但对大多数不做前沿模型的应用团队,实用工具会远早于完整 RSI 到来
- 应用团队的杠杆点不在模型权重,而在包裹模型的 harness:prompt、上下文、记忆、工具、路由、子代理与工作流——这是团队真正拥有的资产
- 近期的故事不是智能无限自我提升,而是自动化目前靠人工完成的改进环节:系统从生产故障中学习、提出对自身应用栈的修改、测试并保留有效改动
- 模型是租来的,但改进闭环(harness + 流程)是团队资产
所属事件:Ben Lorica：自改进 AI 首波红利是更便宜而非更聪明(2 条相关)→
「漫话AGI」频道最新
- Domingos：击败李世石的不是 AlphaGo，是造它的人类 — pmddomingos · 2026-09-09
- Mechanize 研究员:为何各家实验室总在同一时间做出几乎相同的突破 — tamaybes · 2026-09-09
- 安全研究者称超级智能计划就是先造出来，再想怎么控制 — victor_explore · 2026-09-09
- 研究者：AI 未来好坏取决于深度学习训练的对齐泛化性质 — QuintinPope5 · 2026-09-09
- 陶哲轩连发警告：AI 抢发与文化或毁掉科学信任 — Gary Marcus · 2026-09-09
- 「扩散时代」：AGI 之后各行业缓慢渗透、引发临时性精神错乱 — km · 2026-09-09