EMBER 提出 token embedding 层概念擦除法，防 LLM 知识再学习

megamor2 · x · 2026-10-25

研究者将在 EMNLP 2026 上展示新论文 EMBER，研究 LLM 的概念/知识擦除问题。

• 核心发现：从 LLM 中移除知识很难，而防止模型重新学回这些知识更难
• 现有擦除方法存在盲区：token embeddings 层未被覆盖，模型可借此再学习被擦除内容
• EMBER 针对该盲区给出解决方案，作者包括 megamor2 与 OrShafran

论文将以预印本形式发布，报告时间为 Hall H · Session B · 4:00 PM。

原文链接 →

「研究」频道最新

• 安全研究者放话：验证要做到麦克斯韦方程层，而非止步汇编 — JacquesThibs · 2026-10-25
• 云端 Agent 监督本地 35B 自出 800 题：出题比解题更易错，错题率 5 倍 — Individual_Page9676 · 2026-10-25
• SA-LapNet：从波函数构造上根治神经网络量子计算的态混合难题 — bravo_abad · 2026-10-25
• XYBench 基准：最强 LLM 仍照字面回答，识别用户误解不足 63% — MaartenSap · 2026-10-25
• EMNLP 论文：多域混合训练让监督式幻觉检测器OOD性能反超无监督方法 7.25% — MaartenSap · 2026-10-25
• EVALUESTEER:最佳奖励模型超25%场景无法对齐用户价值观 — MaartenSap · 2026-10-25

更多「研究」频道 AI 资讯 →