250 美元 FPGA 板实现 12000 tokens/s 生成
generativist · x · 2026-08-18
一个项目在 250 美元的 FPGA 板上实现了每秒 12000 tokens 的生成速度。虽然这是一个小模型，且无法对问题给出连贯的回答，不具备良好的对话体验，但展示了极高的推理速度极限。
所属事件:250 美元 FPGA 开发板实现每秒 12000 token 推理(3 条相关)→
「Fun」频道最新
- 「物理上不可能」？Polymarket Roadster 飞行赌盘应验打脸质疑者 — Polymarket · 2026-10-16
- 博主用 ElevenCreative Recast 把弟弟「换进」电影预告片名场面 — HeyAmit_ · 2026-10-16
- anon-1b:用 4chan greentext 微调的 Gemma 开放权重模型 — rickasaurus · 2026-10-16
- Tesla 人形机器人被喊「来个后空翻踢腿」，回应翻车名场面 — yunta_tsai · 2026-10-16
- 粉丝请愿留住 Sonnet 3：模型下架引发的社群不舍名场面 — repligate · 2026-10-16
- Anthropic 研究员私聊流出：谈「下一个 Fable 模型」 — repligate · 2026-10-16