Geodes 论文用特殊 token 定向控制 AI 失调泛化

Geodes Research 团队发布新论文，提出一种「选择性泛化失调」的对齐研究方法：在 midtraining 阶段，用一批描述 AI 如何失调的合成文档训练模型，使其学会一个新造的特殊 token。该 token 可作为「失调模式」的标记，从而定向控制失调行为泛化的范围，为研究和管控模型的失调泛化提供了可控手段。

2026-09-16 ~ 2026-09-16 · 2 条相关