rasbt：限制输出为动作空间本质是经典 encoder 分类器

有开发者提出架构问题：LLM 前向传播后输出全词表 logits 再自回归解码，若把输出空间限制到预定义动作集合、直接返回动作概率，甚至用小输出头替代完整词表投影，这种结构还算 LLM 吗。Sebastian Raschka 回应指出，这基本上就是经典的 encoder 式分类器结构，并在后续补充了相关说明。

2026-09-20 ~ 2026-09-20 · 2 条相关

• 把 LLM 词表投影换成小动作头,还能叫 Jev 结构吗 — Adamlags · 2026-09-20
• rasbt 回应:限制输出到动作空间,本质是经典 encoder 分类器 — rasbt · 2026-09-20