新方法「新词接种提示」可将模型不良行为率从43.9%降至0.1%
OwainEvans_UK · x · 2026-11-05
David D'Africa 与 Cameron Holmes 发布新研究 Neologism Inoculation Prompting（NIP，新词接种提示），解决「如何从好坏混杂的数据中选择性学习」的问题。
- 核心思路：把需要「接种」的行为绑定到一个全新的词元 ⟨z⟩ 上训练，部署时从词表中删掉 ⟨z⟩ 的行，模型便无法再通过任何用户可输入的 token 触达该行为（包括 ⟨z⟩ 的近似拼写）。
- 对比效果：传统接种提示用英文标签绑定不良行为，Qwen 在可输入英文 prompt 下的 misalignment 率为 43.9%；NIP 将其降到 0.1%。
- 意义：提供了一种在冻结模型上精确注入再精准移除行为的机制，可同时用于安全对齐（移除不良行为）和选择性能力注入。
「研究」频道最新
- Foresight-SWE 基准:编程智能体解题 60.7%,却只有 14.8% 不埋新 bug — OfirPress · 2026-11-05
- 116 页新论文提出「瓶颈压力」：AI 干不了的活正变得更值钱 — soumitrashukla9 · 2026-11-05
- 减去 SFT 权重差即可溯源模型行为，OpenAI 对齐研究揭示训练归因新招 — corbtt · 2026-11-05
- VTR 方法让 VLM agent 少用 5.8 倍视觉 token 且精度不变 — wellecks · 2026-11-05
- Flex-RSI 基准问世：量化前沿智能体的递归自我改进能力 — _vztu · 2026-11-05
- 四代蛋白质生成模型演进：从骨干生成迈向全可编程蛋白质设计 — AllThingsApx · 2026-11-05