8B 小模型 TwIL-8B 实测:代码数学逼近前沿,速度却是硬伤
solyarisoftware · x · 2026-11-06
开源圈发布仅 8.8B 参数的 TwIL-8B,官方称在编码达前沿 93%、指令遵循 92%、竞赛数学 90%。
第三方用户 @PaulGug 在 10GB RTX 3080 上用 Q4KM 量化实测,对比 9B 参照模型 NeoHorse 1(关闭推理):
- 表现不错的:工具调用 28/30(对比 30/30);轻量简报 9.0/10;日常事务规划 PA1 得 54.7 反超对手的 48。开启推理后 PA1 从 54.7 升到 79。
- 明显短板:16K 上下文搜索仅 4.75/10(对手 9.7),长上下文能力有硬缺口。
- 致命问题是速度:S1 模式关思考约 16 tok/s、开思考约 7 tok/s,而 NeoHorse 同卡约 89 tok/s,快约 5.4 倍。换算到 PA1 任务,平均耗时从 54 秒涨到 21 分钟。
结论:8B 级别智力确实惊艳,但只适合短任务,当通用 agent 大脑不现实。
「模型」频道最新
- Grok 最高档用户控诉用量缩水：剩 6 天只剩 22%，退款被拒 — Al_Grigor · 2026-11-06
- Scale AI 发布 3300+ 任务 RL 环境,单任务需人类团队 3 周完成 — alexandr_wang · 2026-11-06
- 蚂蚁 Ling-3.2-flash 发布：560B 总参/25B 激活，多项视觉评测超 Opus 5 — alifcoder · 2026-11-06
- Mercury 3 发布不到两周处理量破 2 万亿 token,日用量线性增长 — StanfordAILab · 2026-11-06
- 同一模型 Mac 直连与 iPhone LM Link 输出差异大,原因存疑 — simplext · 2026-11-06
- 「AI 告诉我 Anthropic 估值从 2 万亿跌到 200 亿」——AI 幻觉名场面 — michalmalewicz · 2026-11-06