越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s
AIFlow_ML · x · 2026-11-16
Tom's Hardware 报道,开源项目 Garlic LLM 在越狱后的 PS4 上跑通了 90 亿参数模型,速度最高达 43 tokens/s。该方案绕过驱动,直接与 2013 年那块主机 GPU 硬件对话,充分利用老硬件的裸性能。转发者称这是他最想看到的本地 AI 故事——不靠新卡,把旧设备压榨到极限。
「Infra」频道最新
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16
- 博主测算:Colossus 2 的 120 万块 B200 年推理产出可达 4000 亿美元 — bookwormengr · 2026-11-16
- Qdrant 1.20.1 发布:冷存储读取减半、量化提速 2 倍 — qdrant_engine · 2026-11-16