在办公室打印机里跑 Gemma:14MB 内存、60 秒一个 token

TheTuringPost · x · 2026-11-18

osanseviero 借助 Carbon 把量化版 Gemma 3 270m 编译成单个 PostScript 任务,完全在打印机内部运行:峰值内存仅 14MB,速度约 60 秒一个 token,还做了 layer 调度避免 OOM。回复区神补刀:「墨水用完后,它就拒绝生成下一个 token」。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →