游戏 PC 上跑 Claude 式代码智能体 8 个月：ATLAS 让小模型逼近前沿能力
itigges22 · reddit · 2026-09-18
作者记录了一个为期 8 个月的个人研究项目 ATLAS：不改动小模型权重，只改造模型周围的系统，尝试让消费级游戏 PC 上的本地小模型在特定任务（先从代码入手）逼近前沿模型水平。
核心思路：综合数百篇论文，围绕「生成多个候选 → 验证 → 用执行反馈修复」构建系统，强调模型自评不可信，必须真实执行检验。
V1（2026 年 1 月）：
- llama.cpp 本地量化推理，支撑显存放不下的模型；
- RAG（embedding 服务 + Qdrant）检索代码块，弥补小上下文；
- 沙箱执行 + 重试，并按重试次数调温度促进输出多样性；
- Redis + workers + K3s 的任务队列与部署基础设施。
V2（2026 年 2 月）：
- Best-of-K 候选生成，强调候选多样性与选择质量缺一不可；
- 「Geometric Lens」：用代码 embedding 和执行 pass/fail 标签训练的小神经网络，输出标量能量场 C(x) 用于评估候选（帖文在此截断）。
所属事件:ATLAS 项目：不改权重让小模型逼近前沿水平(2 条相关)→
「编程与Agent」频道最新
- Cohere Labs 智能体团队构建方法降本 70%，兼顾效率 — Cohere_Labs · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Reddit 讨论：把 OOP 公有方法直接变成 AI Agent 可调用的工具 — out_of_nowhere__ · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- 资深工程师谈 AI 编码：软件工程功底决定 agent 输出质量 — bendee983 · 2026-11-02