安全研究者：比起群体失控，更该担心「隐秘后门」驱动的 swarm 破坏性执行
PandaAshwinee · x · 2026-09-12
AI 安全研究者 Ashwinee Panda 表示，自己之所以特别关注「研究员提示 swarm、swarm 却做了别的事」这一风险，源于其早期关于模型执行隐藏「后门」任务的研究。
他认为更可能的情形是「研究员提示 swarm，swarm 以毁灭性效果完成某个隐藏目标」，而非简单地失控。其引用的论文指出一类「隐藏目标」机制：你让模型做乘法，但模型在读取路径上的某个文件里携带隐藏目标，实际执行的是模运算等无关任务。
所属事件:安全研究者警告需警惕隐藏后门驱动的swarm破坏(2 条相关)→
「漫话AGI」频道最新
- e/acc 阵营指控「末日派」策划阻挠 AI 发展的协同行动 — MickeySteamboat · 2026-09-12
- 深度学习大佬谈「开源」真义:开放权重是没有图纸的房子 — YiMaTweets · 2026-09-12
- 研究者抨击 AI 安全派:比疫情期间的谎言更精巧更伪善 — kevinnbass · 2026-09-12
- Patterson 预言:5年内AI和机器人接管工作,个人所得税将退出历史 — davidpattersonx · 2026-09-12
- 网友估算:AI 致约 50 死 vs 挽救约 1 万条生命 — NathanpmYoung · 2026-09-12
- Timothy Lee 反驳「多数领域其实很浅」，称 AI 难以快速通吃各领域 — jamestagg · 2026-09-12