Perplexity decider 4B 由 27B 大模型蒸馏信号训练，登 4B 档榜首
antoine_chaffin · x · 2026-10-17
antoinechaffin 介绍 decider 家族的 4B 小型号：与 27B 共享全部设计决策，包括 attention schema 和训练配方，唯一区别是从大模型的信号中学习（蒸馏），使其在 4B 尺寸上表现极强。这是一条常见的大模型教小模型（teacher-student）训练路径。
所属事件:Perplexity 开源 decider v1.2 双尺寸模型，推理最快提速 5 倍(4 条相关)→
「模型」频道最新
- ChatGPT 近期体验劣化：输入乱码、内嵌图片失效、频繁超时 — ChristianKl · 2026-10-17
- 权重魔改易伤生成类评测，MMLU 却基本无恙 — aryaman2020 · 2026-10-17
- Claude 逆推出 1977 年 DES 测试向量用 PDP-11 rand() 生成 — chrisrohlf · 2026-10-17
- 评估报告谁说了算:OpenAI与Anthropic均要求审阅METR报告 — kevinnbass · 2026-10-17
- Claude 破解 30 年悬案：ECDSA 曲线种子竟只是时间戳随机数 — scaling01 · 2026-10-17
- KOL 预告神秘模型 argon:人们严重低估了它的能力 — iruletheworldmo · 2026-10-17