OpenAI自复制提示注入报告被指抄袭2023年旧论文
lbeurerkellner · x · 2026-09-26
- 研究者 Kai Greshake 指出，OpenAI 披露报告中把「自复制提示注入」作为新研究发现，但其团队早在 2023 年 2 月的论文《Not what you've signed up for》中就演示了这一现象。
- 引用者 @Actuallykeltan 补充：该 2023 论文是这一披露的头号引用，作者去年已向 OpenAI 披露过发现；OpenAI 要么故意将其包装为自创发现，要么用 GPT 生成引用清单后未做核查。
- 原 2023 论文系统提出了间接提示注入攻击分类，涵盖数据窃取、蠕虫式传播、信息生态污染等风险，并在 Bing GPT-4 聊天等真实系统上验证了可行性。
所属事件:OpenAI 自复制提示注入报告被指抄袭旧研究(3 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11