AMD收购Taalas:模型权重直接刻进芯片,GPU时代要终结?
julsimon · x · 2026-08-09
AMD近日收购了初创公司Taalas,其核心逻辑是将AI模型的权重直接刻录在芯片的物理结构中,从而打造只能运行单一特定模型的专用硬件。
- 技术细节:Taalas今年2月展示了HC1芯片(台积电6nm工艺,530亿晶体管),将Meta Llama 3.1 8B的权重固化在掩模ROM中,KV缓存放在片上SRAM。无需HBM内存、先进封装或液冷。
- 性能宣称:官方宣称单用户速度达每秒约1.7万tokens,功耗仅为GPU的十分之一,数据中心建设成本仅为二十分之一(注:基于3-bit量化的单用户速度,非聚合吞吐量)。
- 行业趋势:算力架构正加速走向极致的“专用化”。从训练/推理芯片分离,到Prefill/Decode阶段分离,如今演变为为单一模型定制芯片。结合Nvidia斥巨资收购Groq等动态,GPU双头垄断格局正面临底层硬件范式转移的冲击。
「Infra」频道最新
- Databricks 实践:通过 AI 网关与模型路由将内部 AI 成本暴降 90% — AdiPolak · 2026-08-10
- Autonomous Labs 双 GPU 自主计算机实拍:满载运行也安静 — dee_hw · 2026-08-10
- 3张5090混插AMD显卡跑DeepSeek:本地算力折腾实录 — fluffywuffie90210 · 2026-08-10
- 单卡RTX 5090实测:Minimax H3视频生成极限加速方案 — nik_amaze · 2026-08-10
- 四大科技巨头 2027 年 AI 资本开支预计达 9345 亿美元 — Beth_Kindig · 2026-08-10
- 开发者痛点:如何自动路由 API 以优化多模型成本? — MartinGTobias · 2026-08-10