「7 天额度 3 天烧完」和「无视风格指南」是同一个注意力 bug
RandalSchwartz · reddit · 2026-10-30
Reddit 长帖指出,编程 agent 两大高频抱怨——额度提前烧光、模型无视风格指南——本质是同一个注意力闭环问题:
- 负例反成吸引子:在系统提示里贴「DON'T do this」的坏代码示例,会把那些 token 序列装进 KV-cache;自回归生成下,KV-cache 里的 token 是语义吸引子,等价于让模型「盯着粉大象高清图别想粉大象」,反而更倾向生成你想禁掉的 nullable union 类型和防御性 fallback。
- 恶性循环:模型违规→花 25 轮争论、每次贴 5 万 token 的 diff→再加三条 DON'T 规则→注意力进一步稀释→7 天额度 72 小时烧完。训练语料满是防御式教程代码,换厂商也没用。
作者的破解方法(238 张生产工单验证):
- 用四段式 override 结构替代负例:命名运行时崩溃→点名权重想抄的教程捷径→显式允许 agent 发现 API 陷阱时暂停并提出反提案→给出应改用的正确序列。
- 让考古 subagent 用 1991 年 Bell Labs 的 Graphviz strict digraph(而非英文散文或 Mermaid)向 coder/reviewer subagent 传递调用图影响面和状态机——strict digraph 能直接唤起模型 LLVM/GCC 编译器控制流方面的训练。
「编程与Agent」频道最新
- YC 转推点赞 Herdr：可跨机器调度 Agent 的开源多路复用器 — ycombinator · 2026-10-30
- 英国司法部用 Pydantic 做 AI 输出可执行契约,服务法官与缓刑官 — samuelcolvin · 2026-10-30
- Vercel 推出「Agentic Infrastructure」：为编码 agent 生成式部署而建的发布栈 — evilrabbit_ · 2026-10-30
- Garry Tan 示范一条命令给 Claude Code 等智能体接入 GBrain 云端记忆 — garrytan · 2026-10-30
- Mollick 谈 Opus 5.5:新模型该少写 prompt,改设中途检查点 — eldonredwards · 2026-10-30
- YC 实验项目：在 Minecraft 和 Mindustry 里跑 AI Agent 集群 — sandslash · 2026-10-30