研究者预言：AI 安全威胁不止智能体，还有弥散的「偏好软影响」

j_foerst · x · 2026-09-11

jachiam0 提出一个非常规观点：一两年后，AI 安全讨论的主语可能不再只是「智能体」（agent）作为主要安全威胁，而是一个更弥散的对象——它可能包含智能体，但本身不是智能体或智能体集群。这类对象对现实世界的主要影响向量，是对人类偏好与推理的「软性影响」（soft influence），而非直接行动。jfoerst 回复称曾与 summerfield lab 在一份最终未成文的资助申请中讨论过高度相关的想法，表示完全认同。这一视角提示 AI 安全框架可能需要超越以 agent 为中心的威胁建模。