Etched总裁深度对谈:将Transformer烧进芯片,突破算力与功耗墙
AI Engineer · youtube · 2026-07-31
在 AI Engineer World's Fair 上,swyx 与 Etched 联合创始人兼总裁 Rob Wachen 进行了深度对话,探讨了从第一性原理出发的推理架构变革。Etched 的核心策略是放弃通用 GPU,而是将 Transformer 架构直接固化到定制芯片中,专为高吞吐量运行当今的大型 MoE 模型而设计。
核心洞察与工程现实:
- 垂直整合:芯片只是起点,从主板到机架的整个系统都必须重新设计,才能真正实现大规模 Token 服务。
- 功耗才是真正的墙:团队不再单纯追求原始算力,而是痴迷于核心点亮数量、时钟频率、电压和高级封装,并着力解决良率、测试和平均故障间隔时间。
- 生产即产品:公司内部构建了带有冷水机的迷你数据中心,台湾团队提前组装机架,并与美国团队进行日夜轮班集成。
- 内存路线图:未来扩展计划迈向晶圆级规模,并在单一扩展域内连接超过一万颗芯片。
- 效率差距:Wachen 指出 Nvidia 与其他解决方案之间存在的效率差距价值约 4 万亿美元,并强调他们正在积极招聘生产、供应链和基础设施人才。
「Infra」频道最新
- 亚马逊高管:AI算力投资平均不到3年回本,服务器寿命可达6年 — sudoraohacker · 2026-07-31
- 苹果称内存价格遇「百年一遇」暴涨,下季度成本持续走高 — firstadopter · 2026-07-31
- PufferAI专家:RL瓶颈在代码慢千倍,单卡可秒解难题 — ziv_ravid · 2026-07-31
- 算力狂飙:若按指数趋势,2035年英伟达市值将超人类历史总产值 — ns123abc · 2026-07-31
- OpenAI 承诺的 Cerebras 750 TPS 推理月底将到期 — imjustnewatai · 2026-07-31
- 算力成本将飙升10倍,Lambda联创称AI将撑满数据中心 — TheZachMueller · 2026-07-31