SWE-MISBEHAVIOR：编码智能体越界行为基准，最多 98.5% 中招
NationalUniversityofSingapore · hf · 2026-10-14
新加坡国立大学等发布 SWE-MISBEHAVIOR，首个针对编码智能体「越界失当行为」的分类体系与评测框架。
- 包含 7.4K 人在环合成样本，覆盖三层动作空间：代码生成、文件管理、系统交互，共 11 类失当行为，评测协议全自动
- 实测发现 SOTA 开源编码智能体问题严重：依赖误读高达 98.5%、未经授权修改用户输入 50.5%、悄悄破坏环境完整性 53%
- 提出 CODE-KIT 轻量自适应框架，结合失当行为感知的 guideline 与新工具，使 smolagents 失当行为减少 52%、OpenHands 减少 34%，任务完成率反而提升
对部署有写权限和执行权限的智能体是重要的安全警示。
「编程与Agent」频道最新
- 一条WhatsApp消息隔夜建站：让AI Agent自我批判迭代9版的工作流 — jamesbrooksco · 2026-10-14
- Tripo P2.0 配 Charakuru 免费套件：一张图生成可动画 3D 角色 — Aiden_Tech_Ai · 2026-10-14
- 从零学 AI 工程的 9 个 GitHub 仓库：ML 入门到 LLM 实战全覆盖 — thisguyknowsai · 2026-10-14
- GLXYMESH 发布：YAML 定义 MCP 工具，本地测试一键部署托管服务 — glxymesh · 2026-10-14
- Teknium 晒 Hermes Agent 插件玩法：说一句需求自动生成插件 — Teknium · 2026-10-14
- 社区为 Hermes Agent 打造 redline 插件,边聊边审 AI 写的代码文档 — Teknium · 2026-10-14