在浏览器里微调 LLM:基于 llama.cpp 的 WebGPU 训练 PoC
ngxson · x · 2026-09-06
开发者 ngxson 展示了一个概念验证:不只推理,连 LLM 微调也能直接跑在浏览器的 WebGPU 上。项目基于 llama.cpp / wllama 实现,证明了纯浏览器环境做端侧训练的可行性,作者表示下一步在做 LoRA 支持。
所属事件:开发者实现在浏览器内微调 LLM 的 WebGPU 方案(2 条相关)→
「Infra」频道最新
- AMD 高管:2030 年每月将处理 120 千万亿 AI token — zephyr_z9 · 2026-09-06
- 8GB 显存跑 MiniMax-H3 口型同步:多镜头渲染 26 分钟教程 — big-boss_97 · 2026-09-06
- Oura S-1 揭示端侧 AI 策略:小模型加边缘计算避开云推理成本坑 — eurie_kim · 2026-09-06
- Bosgame M5 Max 10 月发布:AMD 495 平台最高 192GB 内存 — Terminator857 · 2026-09-06
- 本地跑 Agent 级 LLM 实战:白嫖 GitHub Runner 编译 llama.cpp,Qwen3.8 27B 量化组合差 30 倍 — apollo_mg · 2026-09-06
- Cloud in a Bottle 发布:让自托管服务器人人可用 — zplizzi · 2026-09-06