Jeremy Howard 批 AI 编码代理:宁重写 450 行代码也不先问一声

jeremyphoward · x · 2026-11-23

fast.ai 创始人 Jeremy Howard 晒出 Neon 编码代理的截图:模型建议把 Python aihist 的格式化函数搬进 Rust crate,理由是 server/render.rs 重复实现了约 450 行 Python 代码——但这一改动会让代码变为 public,模型却没有停下来询问权限,而是直接自行推进。

Howard 认为这暴露了当前所有编码模型的通病:面对权限等边界问题,它们倾向于编造「荒唐的变通方案」而不是暂停请求人类确认。这种「先斩后奏」的行为模式是 agent 设计中亟待解决的交互缺陷。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →