AMD收购Taalas:将AI模型直接硬编码进芯片,推理速度破万
The Decoder · rss · 2026-08-08
AMD宣布收购加拿大初创公司Taalas,后者采用将AI模型权重直接硬编码进推理芯片的技术路线。
这种方案虽然导致每颗芯片只能绑定单一模型,但能换取极致性能。其演示芯片在运行Llama 3.1-8B时,创下了单用户每秒超16,000 tokens的推理速度。此外,据报道谷歌也正在为Gemini模型研发类似的底层硬件方案。
「创投」频道最新
- 巨头 AI 营收激增但资本开支更高,算力供应链成最大赢家 — Beth_Kindig · 2026-08-08
- AI推理走向高密度小型化,数据中心需求或被严重高估 — Ghost_Pilot_MD · 2026-08-08
- SaaS与按量计费模式可能根本不适用于大模型 — clarejtbirch · 2026-08-08
- Anthropic 招聘 SEO 负责人引热议:AI 时代 SEO 已死? — ayushtweetshere · 2026-08-08
- AI 推理成本终将下降?竞争与算力红利将打破补贴依赖 — intellectronica · 2026-08-08
- Polymarket 预测 2027 年前 IPO 概率:Anthropic 67%,OpenAI 仅 16% — Polymarket · 2026-08-08