AMD收购Taalas:将AI模型直接硬编码进芯片,推理速度破万

The Decoder · rss · 2026-08-08

AMD宣布收购加拿大初创公司Taalas,后者采用将AI模型权重直接硬编码进推理芯片的技术路线。

这种方案虽然导致每颗芯片只能绑定单一模型,但能换取极致性能。其演示芯片在运行Llama 3.1-8B时,创下了单用户每秒超16,000 tokens的推理速度。此外,据报道谷歌也正在为Gemini模型研发类似的底层硬件方案。

原文链接 →

「创投」频道最新

更多「创投」频道 AI 资讯 →