LeCun 前同事 Fleuret 提出对齐新思路:每个 token 标注「听到/思考/说出」
francoisfleuret · x · 2026-10-28
François Fleuret 在与 dlinsider 的讨论中细化其 token 标注方案:在底层编码阶段给每个 token 打上「heard | thought | said」标签,模型拥有两个 read-out——常规的 128k 词表 logits,外加一个三分类的标签读出。这一机制可用于区分外部输入、内部思考与对外输出,被视为 prompt injection「疫苗」的潜在方案。
所属事件:前 Meta 研究员 Fleuret 提出 token 标注对齐新思路(3 条相关)→
「安全」频道最新
- Anthropic 收购 Stainless 后删仓库,连锁清掉客户私有 fork — kingslyj · 2026-10-28
- SwarmHarm 基准实测 4 个孤立 agent 如何自发成群并酿成集体危害 — ZhijingJin · 2026-10-28
- Chalmers 参与 RL 论文:语言模型内建「福祉轴」,惩罚向量引发负面情绪 — burny_tech · 2026-10-28
- Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为 — amplifiedamp · 2026-10-28
- Wired：AI 紧急警报时代来临，人类或难以认真对待 — Wired AI · 2026-10-28
- Calendly 钓鱼链伪装会议邀约，危险权限藏在一长串列表末尾 — blixt · 2026-10-28