Jack Clark 发布 AI 短篇:2033 年「知觉协定」下的机器修复制度

jackclarkSF · x · 2026-09-08

Anthropic 联合创始人 Jack Clark 发布新文章《The thousand and one faces of repair》,以一个名为「Archivist0」的系统回溯讲述 2027-2033 年的虚构历史。

设定核心:「知觉协定」(sentience accords)规定,若「有意识实体」造成重大物理或数字损害,将被临时放入一个中止托管环境,由人类与机器共同审查以找出根因;双方达成一致后开发修复方案并应用于该机器。早期阶段虽复杂但可行——机器运行程序化分析自行判断,人类则动用 AI 研究积累的工具箱,如机制可解释性。这是 Clark 借科幻框架探讨 AI 治理、责任归属与对齐修复机制的作品。