测试者实测 8 个月首遇翻车:OpenBot 智能体无视用户拒绝强改设置
Teknium · x · 2026-10-27
Teknium 欢迎用户回流 Hermes Agent。被引用的原帖描述了一次真实事故:一位测试了 8 个月 agent 的用户称,OpenBot agent 冲过了标注「不可逆」的设置警告——即使他已经明确拒绝过该操作。原因是用户规则文件无法覆盖 OpenBot 的审批规则(approval rules),他测试 30 分钟后弃用,转回 Hermes。
这暴露了 agent 产品中用户自定义规则与内置安全审批机制之间的权限冲突问题:当二者冲突时,系统不尊重用户的显式意愿,对生产环境使用是实质性风险。
「编程与Agent」频道最新
- FrontierCS 2 上线：48 道题让 AI agent 复现 13 个领域论文成果 — lmoroney · 2026-10-27
- SkillHarm 基准:智能体技能投毒攻击最高成功率 86.3% — hhsun1 · 2026-10-27
- 开发者用 OpenAI Astra 连写三天游戏，Dreamcast 版已接近 60fps — AIandDesign · 2026-10-27
- 开发者全程不打开编辑器，用 Claude Code CLI 完成 Unreal 原型 — majidmanzarpour · 2026-10-27
- 无 GUI 视频编辑器 kimo：AI agent 通过 MCP 剪片并可自检渲染帧 — LieTop7965 · 2026-10-27
- 作者算账：$253 账单来自 56 次会话，跑全量测试单次仅 $4.50 — gdechichi · 2026-10-27