AMD收购Taalas:将模型权重刻入芯片,Llama推理提速48倍
petrusenko_max · x · 2026-08-08
AMD宣布收购AI芯片初创公司Taalas,旨在通过将模型权重直接刻入硅芯片来大幅提升AI推理效率。
据报道,该方法在运行Llama 3.1 8B模型时实现了48倍的速度提升。Taalas推出的新型HC2芯片专为处理200亿参数规模的单个模型而设计,仅需50颗此类芯片即可支撑万亿参数级别的大模型运行,从而显著提高大规模AI部署的空间和能效。
所属事件:AMD收购Taalas,将模型权重编译进芯片强化推理(10 条相关)→
「公司和人」频道最新
- OpenAI DevDay 班加罗尔站开幕,现场披露每周 4000 万人用 ChatGPT 构建 — HowDevelop · 2026-10-16
- 博主探访香港 Auki 办公室:超市其实是机器人训练场 — LoganGrasby · 2026-10-16
- DHH:Starship 与 Grok 本应是欧洲的「斯普特尼克时刻」 — georgemillo · 2026-10-16
- tinyfool 争论特斯拉 Roadster 2 算不算「手工耿式创新」 — tinyfool · 2026-10-16
- tinyfool 反问:小米提前几天发阔折叠算创新吗 — tinyfool · 2026-10-16
- 人文学科遇冷,AI 哲学家却成美国高校抢手教职 — AnnaCiaunica · 2026-10-16