ianand 思想实验:来自平行宇宙的 Encoder 模型 Jev
ianand · x · 2026-09-20
ianand 发布长线程,构想「来自平行宇宙的 AI 模型 Jev」:
- 历史背景:2017 年的 Transformer 只做英译法一件事,由 Encoder(分析文本)和 Decoder(产出输出)两部分组成。
- 我们的宇宙:GPT-2 只取 decoder 一半,证明了「真正需要的只是」decoder、单模型多任务、prompting 替代任务微调(最大解锁)、以及规模。ChatGPT、Claude、Gemini 等主流 LLM 都是这条 decoder 路线的后代。
- 平行宇宙设定:那里没有 GPT-2 时刻,同样的创新全部投入到 Encoder 上,诞生了 Jev。
- Jev 的特性:更快、更可预测、更可靠,但不能写代码或聊天,只能做决策——是「决策 AI」而非生成式 AI。
- 关键结论:也许 Decoder 自监督训练更易 scale,人类注定先造出 ChatGPT;但 Jev 的意义在于给 Encoder 配上了 ChatGPT 级别的产品界面,开发者正在重新发现这类「决策 AI」的许多用例。
所属事件:ianand 思想实验:假如 AI 走了 Encoder 路线(9 条相关)→
「漫话AGI」频道最新
- Jason:Anthropic 正把所有 SaaS 塞进 Claude 且终身免费 — smtabatabaie · 2026-11-12
- Fleuret:若 AI 能以生成视频的速度设计药物,监管将不堪重压 — francoisfleuret · 2026-11-12
- Newsweek 撰文:美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12
- 10 行 Python 多项式时间确定性素性测试:证明竟依赖 OpenAI 准 GRH 结果 — fortnow · 2026-11-11
- AI2027 作者将 AGI 中位时间线放宽至 2030 前后 — JacquesThibs · 2026-11-11
- Ron Bodkin:自动化学AI研究品味远比预期快,但证据仍薄弱 — ronbodkin · 2026-11-11