开发者开源 GPT-2 XL 本地复现项目,CPU 即可跑 15 亿参数老模型
MikePFrank · x · 2026-10-02
作者 Mike Frank 开源了 GPT-2-tools 项目,用 Hugging Face 转换的 PyTorch/safetensors 格式,在本地(CPU-only:13 代 i7、32GB 内存、WSL 2 Ubuntu)运行 OpenAI 2019 年的 15 亿参数 GPT-2 XL 原始 checkpoint。
要点:
- 提供完整的 PowerShell 安装与运行脚本(setup.ps1、run.ps1、chat.ps1),可在 WSL 2 环境一键部署
- FP32 checkpoint 可完整装入内存,但纯 CPU 生成速度明显慢于现代 GPU
- 项目含实验脚本、测试与验证文档(VERIFICATION.md、HANDOFF.md)
- 作者提到之前演示中未保存生成 seed,导致特定输出无法复现,后续版本会保存 seed
「Infra」频道最新
- 700 个工具的 awesome-jev 清单:专管生产环境的「决策模型」生态 — Remarkable-Gur719 · 2026-10-02
- smolvm v1.22 发布:agent 动作可撤销,快照恢复近瞬时 — LoganGrasby · 2026-10-02
- 传 Broadcom 拟向 Anthropic 提供至多 420 亿美元贷款买芯片 — rohanpaul_ai · 2026-10-02
- Meta 论文:推荐系统训练中仅 50-60% 时间真正在训练 — _reachsumit · 2026-10-02
- CoreWeave 推出 serverless GPU:按小时付费、无需合约,私测开放 — altryne · 2026-10-02
- 日本拟投 1400 亿美元建 AI 数据中心,华为 Mate90 全系搭韬芯片 — 创业邦 · 2026-10-02