无 FPU 的 2006 年 iPod 跑起 llama2.c,0.36 tok/s
r0tlier0 · reddit · 2026-11-02
开发者写了 Rockbox 插件,在 iPod video 5.5G(2006 年,ARM7TDMI @ 80 MHz、64MB 内存、无浮点单元)上运行 Karpathy 的 llama2.c TinyStories 模型。因无 FPU,他将 runq.c 移植为纯整数运算,exp/softmax 用查找表实现,RMSNorm 用整数平方根。15M 模型仅 17MB,直接从硬盘加载进音乐缓冲区,速度 0.36 tok/s——代价是跑模型时没法听歌。作者计划用上双核,并做一个 iPod 主题的本地音乐推荐模型。
「Fun」频道最新
- 用 AI 给自家猫翻拍《地狱厨房》,真人秀梗图式整活开始 — venturetwins · 2026-11-02
- 网页版魔兽风游戏 CowCraft 在 iPhone 折叠屏上流畅运行 — djcows · 2026-11-02
- 马斯克发梗图开炮:你们把 DRAM 扣着不给云上用户了吧 — elonmusk · 2026-11-02
- levelsio 抱怨 X 移除隐藏回复键,再也屏蔽不了 AI 灌水回复 — Kyrannio · 2026-11-02
- Mistral 联创始人携「Le Chonk」橘猫梗图预热 Mistral Large 4 — IsForAt · 2026-11-02
- 果蝇大脑审代码：88% 准确率的评委实验与人类瓶颈论 — AI Engineer · 2026-11-02