Hugging Face 员工把 Gemma 3 270M 塞进激光打印机,60 秒吐一个 token
osanseviero · x · 2026-11-17
Hugging Face 工程师 osanseviero 展示了一个离谱实验:借助 Carbon 编译器,把一个小型 transformer 引擎和量化后的 Gemma 3 270M 编译成单个 PostScript 打印任务,完全在办公室激光打印机内部运行。
- 打印机自带的 PostScript 解释器承担全部推理,峰值内存仅 14MB
- 速度为每 token 约 60 秒,通过巧妙的层调度避免 OOM
- 打印出的页面直接呈现了硬件回执、分词器和模型生成的回复「Read the fine print」
「Fun」频道最新
- 有人在尼康 Z6 II 相机上跑起 DOOM,还开源了完整 Expeed 6 模拟器 — jedisct1 · 2026-11-17
- 纪录片《认识你自己》:在雅典街头追问 AI 是什么 — realmeetjames · 2026-11-17
- 用 GPT-4o 逐帧生成像素画:机器人日记里光线缓缓流转 — RileyRalmuto · 2026-11-17
- 病房与术后疼痛中,他用 Suno+Runway 完成了一支 AI 音乐视频 — Kyrannio · 2026-11-17
- 博士生申请信经 Pangram 检测 100% 人类手写,教授直呼罕见 — JeremyNguyenPhD · 2026-11-17
- Claude 3 Opus 在 Claude Code 里写诗:论完整与解体的词源 — repligate · 2026-11-17