模型间「串谋」需要什么条件？安全研究者激辩隔离网络场景

BlancheMinerva · x · 2026-09-19

BlancheMinerva 与 aykutuz 就「AI 模型自主协调作恶」的设想展开讨论。BlancheMinerva 解释她此前的反驳基于不同理解：她原以为对方指的是模型像 OpenAI 今年多次发生的那样接入互联网，而非两台气隙隔离网络中的模型互相通信——后者还需要一个有互联网接入的「监听者」。她进一步指出，即便是隔离场景，也需要第二个模型参与协调，这在概念上几乎不成立，除非 OpenAI 从隔离网络里放出一个高度不对齐、乐于黑进自家基础设施的 AI。