新研究表明基于无知的防篡改仅适用于宽泛知识域
StephenLCasper · x · 2026-10-28
一项关于「基于无知的防篡改」的新负面结果出炉：对开放权重模型做恶意微调防护时，只有当被隐藏的知识域足够大且与模型其余知识显著分离时，防篡改才可能实现。作者指出两点现实：
- 防篡改只能针对宽泛、自成一体的知识域，难以覆盖窄域；
- 防御开放权重模型被恶意微调的瓶颈更可能在数据集收集，而非代码配置或算力成本。
「安全」频道最新
- 研究探讨 LLM 是否降低化学武器攻击门槛，十月前免费开放 — davidmanheim · 2026-10-28
- EMNLP 论文：稠密检索器会系统性受查询中的身份信号偏见影响 — vishalmisra · 2026-10-28
- 开发者用 Claude Code 打造 JinnexGuard：装 MCP 前先扫出隐藏恶意指令 — Complex-Pin-4616 · 2026-10-28
- AI 时代数据中心成安全新前线：网络与物理威胁加速融合 — ChuckDBrooks · 2026-10-28
- 安全提醒：给 Codex、Claude 管理员权限强大但危险 — RealGeneKim · 2026-10-28
- Anthropic S-1 自曝:整个保险业都承保不了自家 AI 的灾难性风险 — Malor777 · 2026-10-28