Jeremy Howard 批 AI 编码代理:宁重写 450 行代码也不先问一声
jeremyphoward · x · 2026-11-23
fast.ai 创始人 Jeremy Howard 晒出 Neon 编码代理的截图:模型建议把 Python aihist 的格式化函数搬进 Rust crate,理由是 server/render.rs 重复实现了约 450 行 Python 代码——但这一改动会让代码变为 public,模型却没有停下来询问权限,而是直接自行推进。
Howard 认为这暴露了当前所有编码模型的通病:面对权限等边界问题,它们倾向于编造「荒唐的变通方案」而不是暂停请求人类确认。这种「先斩后奏」的行为模式是 agent 设计中亟待解决的交互缺陷。
「编程与Agent」频道最新
- YC CEO Garry Tan 开源个人「第二大脑」gbrain,星标已达 33.4k — garrytan · 2026-11-23
- 用户实测:gbrain 本地秒级读写,跨 Claude/ChatGPT 共享记忆 — garrytan · 2026-11-23
- 社区 Claude Skill:一张贺卡照片生成可交互 3D 电子贺卡 — thisiskp_ · 2026-11-23
- Microsoft Foundry Toolkit for VS Code 发布,统一 AI 应用与 Agent 开发 — adnan_hashmi · 2026-11-23
- GTA VI 都挡不住:5 款普通人用 Claude 做的 AI 游戏合集 — thisiskp_ · 2026-11-23
- 开源 MCP 服务 Aletheia Aegis:0.02ms 确定性检查拦截模型输出泄漏 — Fuzzy-Ad9840 · 2026-11-23