local-ai-registry:每块 GPU 一份实测验证过的本地模型运行配方
LiTianleli · x · 2026-11-21
Sybil Solutions 在 GitHub 开源了 local-ai-registry(已 339 star):为每张显卡提供「一份经过验证的本地 AI 运行配方」,并附上证据。
- 每条配方的门槛:在该卡上通过六项检查——能加载、能对话、能推理、能调用工具、能撑住上下文窗口、解码速度 ≥15 tok/s
- 目录结构清晰:cards/ 描述各厂商显卡的内存与检测方式,engines/ 提供固定的镜像、参数与默认配置模板
- 号召持有 24GB+ 显存的用户让 LLM 跑通新模型 Inkling 并把结果提交上去
对纠结「我这卡到底能跑什么、怎么配」的本地部署用户是直接可查的资源。
「编程与Agent」频道最新
- Cerebras 跑 Kimi K3.1 Pro 达 2000 tokens/秒,办 5000 美元黑客松 — film_girl · 2026-11-21
- Sous Labs 开源 Songe:用闲置算力在本地微调你自己的模型 — alexcovo_eth · 2026-11-21
- 玩家在 GTA 里用手机跑 Claude Code:边开车边审代码 — HarshNoiseX · 2026-11-21
- 谷歌黑五 AI 订阅最高 5 折,Antigravity 缓存优化让额度多干 20% 活 — op7418 · 2026-11-21
- 实测蚂蚁 Ling-3.2-flash:AI 写前端能自查视觉差异并修正 — sven_ai · 2026-11-21
- Reddit 网友用 Oracle 云+Telegram 搭起手机遥控的云端 AI 编码部门 — SexyMint · 2026-11-21