AMD收购Taalas:模型权重直接刻进芯片,GPU时代要终结?
julsimon · x · 2026-08-09
AMD近日收购了初创公司Taalas,其核心逻辑是将AI模型的权重直接刻录在芯片的物理结构中,从而打造只能运行单一特定模型的专用硬件。
- 技术细节:Taalas今年2月展示了HC1芯片(台积电6nm工艺,530亿晶体管),将Meta Llama 3.1 8B的权重固化在掩模ROM中,KV缓存放在片上SRAM。无需HBM内存、先进封装或液冷。
- 性能宣称:官方宣称单用户速度达每秒约1.7万tokens,功耗仅为GPU的十分之一,数据中心建设成本仅为二十分之一(注:基于3-bit量化的单用户速度,非聚合吞吐量)。
- 行业趋势:算力架构正加速走向极致的“专用化”。从训练/推理芯片分离,到Prefill/Decode阶段分离,如今演变为为单一模型定制芯片。结合Nvidia斥巨资收购Groq等动态,GPU双头垄断格局正面临底层硬件范式转移的冲击。
所属事件:AMD收购Taalas:将AI模型权重直接刻进芯片(2 条相关)→
「Infra」频道最新
- Nscale 数据中心液冷屡漏半年起火,挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16
- Intel 开源低比特量化库 neural-compressor:支持 FP4/MXFP4/NVFP4 — HaihaoShen · 2026-10-16
- 770B 参数压进 214GiB:腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- TokenSpeed MLA 2 适配英伟达 Vera Rubin,解码内核较 B200 提速 3.44 倍 — zhyncs42 · 2026-10-16