AI agent 三天重写推理引擎,让 27B 模型在 Mac 上从 66 提速到 580 tok/s

a300a300 · reddit · 2026-09-28

据帖子描述,AI agent(主要是 Opus 5.5)通过重写推理引擎,在三天内将一个 27B 模型在 Mac(MLX)上的推理速度从 66 tok/s 提升到 580 tok/s,约 9 倍加速。项目详情见 yukon.org/mlxfast。若属实,这是「AI 自己优化 AI 基础设施」的一个引人注目案例,但具体细节与复现情况有待项目页验证。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →