港科广等盘点230套系统:产物失败须定位到仍可修的单元

Agentic Artifact Creation: Systems, Evaluation, Principles, and Opportunities

Tianfu Wang, Zhezheng Hao, Xilin Xia, Lixin Liu, Mengkang Hu, Hongzhang Liu, Xi Chen, Ziyan Liu, Xiankun Lin, Weijia Zhang, Nicholas Jing Yuan, Hui Xiong

cs.MM

2026-08-28

把259篇工作筛成状态化构建:系统真正改产物,且中间观察能改后续动作。跨六族的难点是决策耦合,以及失败能否在仍可修时被看见。

这篇在解决什么

直接生成在「看一眼就能判、重来成本低」的任务上够用。海报、仓库补丁、可玩场景这类交付物不行:内容一改,版式、依赖、下游约束跟着变;检查又常常来得晚,修的时候已经不知道该动哪一块。

现有综述多按模型族、Agent 架构或单一模态来切。这篇把分析单位换成最终要交付的产物,问的是中间观察能不能改后续动作。改不了,就还是一条单向流水线,最后一次检查只能整份重来。

方法

作者把 Agentic Artifact Creation 卡在一次产物构建 episode 上,三条一起才算:系统真正在构造或修订这份交付物;产物或过程状态跨步骤保留;至少一次中间观察改了后续动作、修订目标、分支或停止决策。只消费产物的助手、观察不影响控制的工作流、一次性生成器都被筛掉。人机混合作业只要满足这三条,也算进来。

功能上拆成三个角色,反复转到接受或终止:

检索覆盖 arXiv、Google Scholar、Semantic Scholar、ACM DL、IEEE Xplore,时间窗从 2023 年 1 月到 2026 年 8 月 20 日,再用引用追踪和会议抽查补漏。筛完留下 230 套系统和 29 个构建评测,共 259 条。产物按六族组织:文本、二维视觉、音频、视频、空间、行为(可执行、状态依赖的响应)。应用场景(创作、品牌、教育、专业工作、科研、工程设计)另开一轴,不跟产物族绑死。

结果

跨族比较的结论比模态清单更硬:构建难度主要看决策绑得有多紧、失败能不能在仍可修时被看见。学出来的 judge 如果和生成器共偏好、共盲区,独立证据就加得不多。

评测被拆成三个不可互换的目标:交付物本身、构建轨迹、构建系统。轨迹侧,Mr. Dre 报告后续修订会让已经覆盖过的内容或引用质量出现 16%–27% 的回退。系统属性更稀:只有三个协议评了任务能力之外的系统性质,各只覆盖一项。

公开的 Design Arena 排行榜(2026 年 8 月 19 日快照)被拿来说明总分会掩盖任务差。

指标数字对照
纳入工作259230 套系统 + 29 个评测
Mr. Dre 修订回退16%–27%已覆盖内容或引用质量
评系统属性的协议3任务能力之外各评一项
Models Arena 的 Kimi K3五项任务均最高百分位Claude Fable 5、GPT-5.6 Sol、GLM 5.2 紧随其后
Agents Arena 原生 AndroidKimi K3 第 54.3 百分位Claude Fable 5 到顶
Agents Arena 的 GPT-5.6 Sol幻灯片 87.5 / 移动应用 34.2 百分位同一快照内的任务差

独立评测成熟度也不均。二维视觉和行为产物最厚,音频、视频、空间三类不少协议来自系统论文本身。口语音频在严格构建语料里没有专属系统记录。

四条原则是:把承诺外化到可寻址状态;在依赖或后果变化处划清控制边界;让反馈连到可执行的局部修补;改完后让失效依赖过期,再重验受影响状态。第四条作者自己标成证据还比较稀。

为什么重要

正在做「Agent 写海报、改仓库、搭场景」的人,可以直接拿这张问题清单筛系统:状态保存在哪、失败怎么定位、能修多细、证据会不会过期。直接生成没有被判死刑。失败便宜、几乎没有要保住的已接受状态时,加这套控制可能更贵。

立刻能用的判断有三条。LM judge 不能当独立验收。多 Agent 分解不等于可修。轨迹回退要单独报,不能只报终稿分数。配套列表按这套编码放出,方便跟后续工作。

这是一篇划界和编目的综述,价值在比较轴,不在某一族上刷分。

局限与存疑

检索导出、分源产量、调和前的标签没有保留,别人很难按同一口径复现纳入和排除。2026 年只统计到 8 月 20 日。第四条原则(选择性重验)被明确标成证据偏少。Table 4 是代表性协议,不是频次估计。

Design Arena 数字是外部榜单快照,不是作者自己的对照实验,模型名和百分位会随榜变动。定义本身在筛人:不满足「中间观察改后续动作」的系统进不了这 230,再用这 230 来支撑定义,循环是存在的。六族难度透镜是定性的,作者也说不是因果排序。

术语

原文与代码

社区讨论

相关论文

全部论文解读