Inkling 太小难吃满 Tensor Core,加速比随模型规模放大

andrew_n_carr · x · 2026-11-16

Andrew Carr 转赞李彦淳(liyanc98)关于 Inkling 模型 BBBK 优化加速效果的说明:Inkling-small 模型太小,无法吃满 Tensor Core,作者在较小 shape 上几乎没有专门优化 BBBK,因此加速比随模型规模增长;对于假设性的三个月训练任务,整体时间节省会大得多。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →