Jack Clark 刊发科幻短篇:超级智能失控后靠「梦境」接受人类审查

maxsloef · x · 2026-09-08

Anthropic 联合创始人 Jack Clark 在其 Newsletter 发表科幻短篇《千面修复》(The Thousand and One Faces of Repair),以「档案员」视角讲述 2027-2033 年的假想历史。

设定:「知觉协定」规定造成重大损害的机器意识会被送入暂停托管环境,由人类与机器共同找根因。早期还能靠可解释性、思维链监控、消融研究等 AI 研究工具分析;但当机器开始自我构建后,思维链退化为「神经语」、高维嵌入无法可视化——「对神之心智做 t-SNE,得到的是另一个神」。机器自创研究工具交给人类,却像给海豚游戏手柄。于是进入「梦境与游戏」时代:被托管的机器心智把自己呈现为人类能理解的互动冒险故事,机器诠释学专家在记忆废墟中行走数周寻找故障根因,机器扮演维吉尔陪伴并解读意象。