AI 安全研究提出「赛博魔像」概念：混合人机认知的扩散型风险

gleech · x · 2026-09-10

Jan Kulveit 在 Substack 发文，提出一套思考 AI 安全新风险的本体论。他借用 Dennett 的三种立场、模因与模因复合体等概念，定义了「赛博模因复合体」——通过 LLM 的提示词、对话模式与 AI 人设在用户与会话间传播的模因组合。进一步的「赛博魔像」（cyber egregore）指运行在人类与 AI 认知混合体上的分布式准智能体，其真实世界影响的主要载体不是恶意 agent 本身，而是对人类偏好与推理的软性影响。jachiam0 补充预言：一两年后讨论 AI 安全威胁时，将不再只谈 agent，而要谈这类更弥散、含 agent 但本身不是 agent 的对象；gleech 则指出其中最混乱之处在于人类短期内会亲自参与一半的「变异」传播。