EmbeddedLLM 获赠 AMD MI350X 服务器，推进 vLLM ROCm 优化
AccBalanced · x · 2026-10-25
EmbeddedLLM 宣布收到 AMD 赠送的 MI350X 服务器，将用于其主导的 vLLM ROCm 支持工作和与 AMD 合作的 AgentX 优化，并承诺把成果回馈开源社区。配图显示服务器已上架机房。
「Infra」频道最新
- 4090 单卡跑大模型推理：INT8 权重 + FP8 解码 + RAM 分级缓存方案 — AIFlow_ML · 2026-10-25
- 字节阿里腾讯狂买 300 万张 Nvidia RTX PRO 5500,总价超 350 亿美元 — Miles_Brundage · 2026-10-25
- Nebius OpenRouter 日处理量破 67B tokens,但同业体量仍是数倍 — AccBalanced · 2026-10-25
- 研究揭秘：开源模型推理市场存在类似金融「幌骗」的价格操纵 — AccBalanced · 2026-10-25
- 比利时旧煤电厂将装 106 座 Tesla Megapack，2027 年投运 — XFreeze · 2026-10-25
- 用两张矿卡 CMP 170HX 跑 Qwen 3.8 Flash,作者公开优化配置 — leonbollerup · 2026-10-25