在办公室打印机里跑 Gemma:14MB 内存、60 秒一个 token
TheTuringPost · x · 2026-11-18
osanseviero 借助 Carbon 把量化版 Gemma 3 270m 编译成单个 PostScript 任务,完全在打印机内部运行:峰值内存仅 14MB,速度约 60 秒一个 token,还做了 layer 调度避免 OOM。回复区神补刀:「墨水用完后,它就拒绝生成下一个 token」。
「编程与Agent」频道最新
- 圈内热梗:智能体编程的杀手级应用是为智能体编程造 harness — danbri · 2026-11-18
- 开发者用 HyperFrames 加 Claude 做 Agent 视频剪辑,替代 FFmpeg 痛苦流 — toolstelegraph · 2026-11-18
- ETH 提出 AuXSpec:可执行后条件作奖励,9B 模型规格生成超前沿模型 — eth-algopt · 2026-11-18
- dottxt 工具调用周报:同一模型最差端点故障率可差 15 倍 — remilouf · 2026-11-18
- 开发者用 Muse+Claude+Codex+Grok 组队,一天连发两版 — GeneralDistinct5775 · 2026-11-18
- 用 3D Gaussian Splatting 在浏览器复刻经典恐怖游戏《P.T.》 — willeastcott · 2026-11-18