250 美元 FPGA 开发板实现每秒 12000 token 推理

Lamb Labs 展示了一项名为 "little..." 的概念验证项目：在售价 250 美元的 AMD KV260 FPGA 开发板上实现每秒 12000 token 的推理速度。不过需要指出的是，该演示使用的是一个小模型，目前无法对问题给出连贯回答，对话体验欠佳，但充分展示了 FPGA 在极高速本地推理方面的潜力。

2026-08-17 ~ 2026-08-18 · 3 条相关

• 250 美元 FPGA 开发板实现 12000 tok/s 推理 — ycombinator · 2026-08-17
• 250 美元 FPGA 板实现 12000 tokens/s 生成 — generativist · 2026-08-18

另有 1 条近重复转述:ycombinator