前 Meta 研究员 Fleuret 提出 token 标注对齐新思路

前 Meta/Apple 研究科学家 François Fleuret 提出解决 AI 对齐问题的个人方案:预训练阶段就应包含大量 RL,让模型从一开始就学会「说话」;并在底层编码阶段为每个 token 标注「heard/thought/said」(听到/思考/说出),区分输入、内部推理与输出。在讨论中,dlinsider 质疑若标签只是普通文本,恶意文档可能伪造标签,需要独立机制来盖章认证。

2026-10-28 ~ 2026-10-28 · 3 条相关

• François Fleuret 提出对齐三步法：预训练加 RL、给 token 标「想/说」 — francoisfleuret · 2026-10-28
• 同一事件,并入上一条主帖 — dl_insider · 2026-10-28
• LeCun 前同事 Fleuret 提出对齐新思路:每个 token 标注「听到/思考/说出」 — francoisfleuret · 2026-10-28