How to Count AIs: Individuation and Liability for AI Agents
Yonathan Arbel, Peter Salib, Simon Goldstein
cs.CY, cs.AI
2026-02-25
当海量 AI 智能体自主行动并造成损害，第一个问题往往是「是哪个 AI 干的」。AI 没有身体、能随意复制分裂合并，难以个体化。本文提出「算法公司」（A-corp）：一种由人拥有、由 AI 运营的法律实体，同时解决拴到人和区分彼此两个身份难题。
作者从一个设想起笔：不久后，海量 AI 智能体会自主地在经济里采取行动，出错是迟早的事。但真要追责，第一关不是该罚谁，而是「是哪个 AI 干的」。AI 没有身体，一次对话都可能跨很多块芯片；同一个智能体常常是多个模型、多个实例拼起来的临时组合，还能随意复制、分裂、合并、成群、消失。要给 AI 行动配上一套可执行的责任规则，先得能把它个体化、能追溯。
作者把身份问题分成两层。薄身份（thin identity）把每个 AI 动作拴到某个人类负责人身上，像金融业的 KYC。厚身份（thick identity）把海量 AI 实体区分成一个个稳定、目标一致的持久单元，因为智能体会自己做决定、追自己的目标，对齐问题未解，法律有时得直接激励或约束 AI 本身，这就要求能把它和别的 AI 分开。现有法学讨论大多只碰薄身份。
作者提出「算法公司」（Algorithmic Corporation，A-corp）：一个法律拟制的实体，像公司或 LLC 一样能持有财产、签合同、被起诉，由人拥有，但设计成由 AI 来运营。两个核心构件是法律拟制人格和安全治理基础设施。A-corp 的拥有者必须公开登记，每次所有权变更都要公示才生效。每个 A-corp 动作都带一张密码学证书，类似 TLS/SSL 的公钥体系，由一个公共注册表（存公钥）毫秒级验真。高层 AI 经理拿主证书，可以给下级 AI 发细粒度的有限权限令牌。
薄身份由此解决：任何带证书的动作都能追溯到登记在册的人类拥有者。厚身份靠资源约束论点：AI 要达成目标就必须有资源，尤其是算力，A-corp 正是 AI 持有和使用这些资源的容器。因此 AI 经理有强烈动机只把控制权分给目标一致的 AI，错配的经理可能卷走资产；内部治理差的 A-corp 会被竞争淘汰、耗尽资源而死。均衡下，A-corp 会自组织成目标连贯、能对法律责任做出理性反应的实体。
这是一篇法学与治理论文，没有实验数字，论证靠类比和机制推理。它的几个关键主张是：薄身份和厚身份是两个不同问题，现有方案多只解决前者；AI 个体化有六个特有难点（成群、跨模型协作、忒修斯之船式的权重与提示漂移、快速创生与销毁、复制分叉、可观测性受限）；A-corp 用资源约束加选择把哲学难题绕开，不用先解决 AI 算不算人，靠激励和淘汰让稳定的、目标一致的实体涌现出来。实施可走三条路：子法律层面、新立法、或在现有公司法下落地。作者认为光靠自愿采用不够，需要在算力和市场准入这类咽喉点上立法强制。对技术对齐也有意义：强化学习、宪法式 AI 可以直接训 A-corp 而非模型实例，让训练目标和法律责任收敛。
对造智能体的人来说，这篇把一个被低估的前提讲清楚了：智能体要被大规模部署、被信任、被追责，先得有办法数得清、分得开、追得到。A-corp 给了一个具体、可工程化（密码学证书加注册表）的治理壳。它也提示了产品设计方向：给智能体一个明确的资产边界和可验证身份，不只是合规，也是在用一个经济杠杆约束它的行为。
这是规范性提议，不是实证研究，很多机制（尤其是均衡下会涌现目标一致的 A-corp）依赖强假设，比如 AI 经理能可靠评估下级目标、资源竞争足以淘汰劣构实体。论文对串谋、欺骗性对齐、一次性灾难性危害等反例有讨论但难说盖多全。它建立在美式公司法语境上，跨法域的可移植性需要单独论证。注册表的隐私、安全和被滥用风险也没有展开。整体偏思想实验，离落地还有相当距离。