Palisade AI 自我复制研究遭复现质疑:提示词给捷径、凭证复用致统计存疑
jessi_cata · x · 2026-11-19
- Palisade Research 今年 5 月发布的 AI 自我复制研究宣称:语言模型能自主复制权重与 harness 到网络上的脆弱主机——自主发现并利用 Web 应用漏洞、提取凭证、在被攻陷主机上部署推理服务器。
- @lumpenspace 发布视频批评指出复现问题:提示词中直接提供了简化自我复制步骤的命令;多跳复制实验中凭证被重复使用,削弱了「自主性」的统计结论。
- 配图还显示 Palisade 论文及 Meta/其他材料将这类「已实现自我复制」表述作为论据引用,而复现疑点直接影响该威胁叙事的可信度。
- 结论:这篇被广泛引用的安全研究的实验设计存在统计学疑点,值得安全圈重新审视。
「安全」频道最新
- Prompt2Pwn 黑客大会两日后开幕:真实 AI 靶场 + 全场直播 — rez0__ · 2026-11-19
- MIT 新方法让 AI 文本检测器在新模型与伪装文本面前保持鲁棒 — CurieuxExplorer · 2026-11-19
- Anthropic 内部现分歧:员工提议单方面暂停前沿训练,Dario 否决 — AndyMasley · 2026-11-19
- 分析师:前沿智能与企业就绪差距扩大,安全升级潮将来 — BenBajarin · 2026-11-19
- OpenAI 提议实验室报告递归自我改进指标,但自家数据口径已多次变动 — tallmetommy · 2026-11-19
- Google 报告披露自主 AI 黑客系统,但未证实任何攻击得手 — TruthIsAllYouNeed_ · 2026-11-19