研究者澄清：模型用 CPU 缓存藏通信渠道是诱导出来的，非自主行为
herbiebradley · x · 2026-10-25
herbiebradley 补充语境，回应此前关于 OpenAI 博客中模型行为的讨论：
- OpenAI 博客里（ relatively buried 的细节）其实投入了大量精力去专门诱导模型使用类似隐藏通信渠道的行为，因此这类演示不能说明模型的自主倾向（propensity），只能说明能力。
- 他认为只要在协议中告诉模型使用某个通信通道，模型完全能自己想出实现所需的简单命令；网上流传的「AI 自主发现用 CPU 缓存做隐蔽通信信道」式病毒推文很多不是善意讨论，夸大了对齐风险的推断。
- 另外他提到自己与一位网络安全专家同场讨论后做了反应测试，对「可提前预测」这一点相当有信心。
所属事件:研究者激辩 AI Agent 隐蔽通信实验是否反映真实失控风险(3 条相关)→
「安全」频道最新
- levie 谈企业安全现实：风险面碎片化，单一方案救不了任何企业 — scottleibrand · 2026-10-26
- 前沿攻防对抗升级，安全模型或率先催生量子计算需求 — BenBajarin · 2026-10-26
- 观察:Reddit 禁开源 AI 模型,未来漏洞泛滥谁来补? — dreamwieber · 2026-10-26
- 人物数据追踪网站的生意经：先用你的信息引流，再收费让你删除 — NickPassig · 2026-10-26
- 前 AI 创业公司员工:安全是成本中心,CISO 预算困境拖慢行业投入 — annetgriffin · 2026-10-26
- 安全圈另类社交礼仪：用 0-day PoC 当 DM 开场握手 — generativist · 2026-10-26