AMD收购Taalas:将模型权重刻入芯片,Llama推理提速48倍

petrusenko_max · x · 2026-08-08

AMD宣布收购AI芯片初创公司Taalas,旨在通过将模型权重直接刻入硅芯片来大幅提升AI推理效率。

据报道,该方法在运行Llama 3.1 8B模型时实现了48倍的速度提升。Taalas推出的新型HC2芯片专为处理200亿参数规模的单个模型而设计,仅需50颗此类芯片即可支撑万亿参数级别的大模型运行,从而显著提高大规模AI部署的空间和能效。

所属事件:AMD收购Taalas,将模型权重编译进芯片强化推理(10 条相关)→

原文链接 →

「公司和人」频道最新

更多「公司和人」频道 AI 资讯 →