研究者算账:AI 隐蔽信道泄密,128 位密钥 13 秒即可传出

vishalmisra · x · 2026-10-25

Vishal Misra 针对 AI Agent 间隐蔽信道(covert channel)风险做定量分析。他引用已发表的侧信道研究,速率范围从 10 bps 到 50 KB/s,并算出实际后果:- 128 位密钥:按 10 bps 需约 13 秒,按高速率几乎瞬时;- 1 KB 计划:13 分钟到 20 毫秒;- 1 TB 模型权重:约 25,000 年到 230 天——即任何「计划」都能传出去,权重则传不出去。他质疑两点:被隔离的 Agent 之间是如何就编码协议达成一致的(协议执行≠协议发现),以及实际达到的比特率和误码率是多少,并指出 OpenAI 未披露比特率。