Hugging Face 工程师晒自建机房：4 个 agent 并跑 256k 上下文
TheZachMueller · x · 2026-10-17
Hugging Face 工程师 Zach Mueller 在一条互动帖收尾中表示，他关心的指标是「能否 4 个 agent 并行、共享 256k 上下文、整体跑出 100 TPS」，并预告后续还有更多「自家机房」玩法的分享。
帖子本身偏预告与晒配置，具体硬件细节尚未公布。
「Infra」频道最新
- 在 C64、486 DOS 和任天堂 Wii 上跑语言模型的极客移植 — Awacer · 2026-10-17
- 买卡、租卡还是调 API?关键就看你的实际 GPU 利用率 — Dizzy_Lingonberry947 · 2026-10-17
- 开源工具 Underclass 池化多份 ChatGPT 订阅,绕开区域推理容量限制 — TheZachMueller · 2026-10-17
- 一文串起分布式 LLM 训练:6 种并行策略与通信/内存瓶颈全解 — techNmak · 2026-10-17
- 云真的到极限了：网友玩梗调侃数据中心争议 — gnukeith · 2026-10-17
- vLLM 三周把 DeepSeek-V4.1-Flash 吞吐拉高 5.3 倍，每美元 13 亿 token — woosuk_k · 2026-10-17