研究者热评:harness 工程掩盖了 agent 缺乏组合性的根本问题
qi2peng2 · x · 2026-10-13
研究者 qi2peng2 提出争议观点:当前火热的 harness 工程正在掩盖 agent 的根本缺陷。
- 神经模型本质上是符号过程的"模拟器",对变量名、输入值、复杂指令和控制流都敏感
- 现在的 AI agent 把神经模型放在最外层循环:理解问题、规划、选工具、编排解法,但缺乏他当年着迷于 NLP 的组合性(compositionality)
- 结果是 agent 依赖一堆文本和代码片段(harness)来"暗示"行为,对实际行为没有保证,也难以编辑修改
他认为这是比工程包装更深层的问题。
「漫话AGI」频道最新
- NotebookLM 生成的假播客已混入搜索结果：13 集带广告以假乱真 — omooretweets · 2026-10-13
- AI 在易验证处快、难验证处慢:安全自动化先要可测量 — WhatTheLJW · 2026-10-13
- 控制论之父维纳名言：我们不是实体，而是自我延续的模式 — pickover · 2026-10-13
- 数学家真会读 OpenAI 数学论文吗?图算法学者唱反调 — thegautamkamath · 2026-10-13
- 用户实测 Meta Muse:30 秒写好孩子生日会预订邮件 — RachelVT42 · 2026-10-13
- DeepRSI 基准亮相:让 agent 连续干 48 小时 ML 任务衡量递归自我改进 — garrytan · 2026-10-13