3090 加 5060 Ti 的本地 AI 机,该装什么系统和编码模型
PolarNightProphecies · reddit · 2026-07-27
作者刚入门本地 AI,想把一台机器专门改成 coding 用的本地 AI 服务器。
现有配置包括 RTX 3090、RTX 5060 Ti 16GB、80GB DDR4、Ryzen 5 5600X、2TB SSD、1200W 电源,手上还可能有一张 RX 6950 XT 16GB 和一张 3080 10GB 可以加进来。他主要想问:
- 该选什么系统,尤其是 Linux 该用哪个发行版
- 这套硬件适合跑哪些编程模型
- 用什么软件/界面能从局域网其他设备访问这台机器
- 额外 GPU 是否有办法利用,哪怕只是把显存派上用场
他的目标是把这台机器专门留给本地 AI,开发工作则放在局域网里的其他电脑上。
「编程与Agent」频道最新
- 只靠提示词,做出 Trevor Noah 书页特效复刻版 — xiaohu · 2026-07-27
- 435 篇论文综述:LLM agent 的回滚、审计和恢复严重不足 — rohanpaul_ai · 2026-07-27
- 一个财务 agent 已能读账,下一步是放开支付 — 3lonStarl1nk · 2026-07-27
- AI Shipping Labs 公开 10 场 workshop 代码,覆盖 agent 部署与向量检索 — Al_Grigor · 2026-07-27
- Observer 用本地模型监控屏幕麦克风并自动告警 — alex_verem · 2026-07-27
- Agent 编排该用 Loop 还是 Graph — alex_verem · 2026-07-27