为什么推理正在取代训练，成为 AI 硬件主线
Genzinvestor16180339 · reddit · 2026-07-23
一位 Reddit 用户在问：为什么 AI 硬件讨论正在从训练转向 推理（inference），以及“思考更久”的 reasoning 模型是否会继续推高推理算力需求。
他还进一步追问：像 Etched 这种专门做 transformer 推理芯片的公司为什么会变得重要？如果未来 transformer 被别的架构替代，今天的大部分推理基础设施又会有多少需要重做？
「Infra」频道最新
- Celeris 组建新实验室，押注微秒级响应的 LLM — timshi_ai · 2026-07-23
- Reddit 讨论：如何在 AI agent 跑飞前拦住账单 — Designer_Power3691 · 2026-07-23
- 一组 LLM 缓存管理资源，覆盖 KV cache 与推理解码优化 — gaganghotra_ · 2026-07-23
- RunPod 用户获得一个可提醒并自动领取 pod 的 Chrome 扩展 — Particular-Repair895 · 2026-07-23
- MiniMax 称 MI355X 服务性能已接近 B200，覆盖 428B 多模态模型 — salykova_ · 2026-07-23
- Aurora 发布开源 Go 网关，主打 LLM 路由与安全防护 — Select-Medicine-9310 · 2026-07-23