AMD 收购 Taalas:把整个模型烧进芯片,Llama 3.1 8B 跑出约 17000 tokens/s
acmoytoy · x · 2026-09-15
AMD 宣布收购多伦多公司 Taalas,后者 approach 与 GPU 完全不同:不从 HBM 加载权重,而是把模型权重与数据流直接蚀刻进晶体管,芯片本身就是模型。其首款芯片 HC1 在单一芯片上以约 17,000 tokens/s/用户 的速度运行 Llama 3.1 8B,号称打破了中心化 AI 实验室依赖的内存墙。转发者据此认为端侧、电池供电即可运行强大 AI,终端硬件的突破将瓦解对 AI 供给的集中控制叙事。
「Infra」频道最新
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 曝一家未具名机构已建成规模化算力借贷专项载体 — matt_slotnick · 2026-10-30
- 开源模型涨价挤压推理商:5 月以来 GPU 回本吞吐要求涨 25-83% — bookwormengr · 2026-10-30
- Sam Altman 称芯片供应链“看不见的手”失灵，DRAM 是关键瓶颈 — SnoozeDoggyDog · 2026-10-30
- MoEShift 让 24GB Mac 跑 125B 模型：7.5GB 内存、10 tok/s — dave-tro · 2026-10-30
- 量子行业去年风投 49 亿美元仅营收 19 亿，四市场全景指南发布 — antavedissian · 2026-10-30