Lee Cronin 断言 AI 审计即盗窃：1800 数据集审计揭示归属危机
AryHHAry · x · 2026-09-07
化学家 Lee Cronin 发帖称「AI 的问题在于完整性：数据、算法与决策投影的完整性，牟利者称之为创造力，但审计往往显示是盗窃」。这条引用帖随后梳理了支撑这一可量化判断的实证研究：
- 数据完整性：Longpre 等人在 Nature Machine Intelligence (2024) 审计了超过 1,800 个文本数据集，发现的问题不是「少数许可模糊」，而是系统性的归属危机——数据来源链条经常断裂、衍生数据集的许可证悄然变更、流行数据集的使用常未获知情同意。
- 模型完整性：Carlini 等 (ICLR 2023) 证明训练数据的记忆化随模型规模、样本重复次数和 prompt 上下文长度呈 log-linear 增长；Nasr、Carlini 等的后续工作进一步展示了可提取性问题。
作者认为 Cronin 的话虽糙，但方向是可以审计、可以测量的：authenticity、consent 与 provenance 在当前 AI 数据生态中全面失守。
「安全」频道最新
- Foresight Institute 新 RFP：单项最高 10 万美元资助 AI 安全与科学项目 — niloofar_mire · 2026-09-07
- AI 能读我邮件了，下一步是不是银行账户？ — BLUECOW009 · 2026-09-07
- 多智能体对齐最大隐患：AI 或用欺诈勒索与人达成合作 — infoxiao · 2026-09-07
- AI 安全预测正加速从「末日臆想」变成「习以为常」 — DavidSKrueger · 2026-09-07
- 用便宜模型盯着 Agent 转录，能否提前拦截越狱事故 — rhaivn · 2026-09-07
- Claude 隐身会话漏洞：Ctrl+Shift+T 可完整恢复对话记录 — andynodi · 2026-09-07