研究:LLM 46.4% 的群聊发言时机不合适,过度主动成协作硬伤
liweijianglw · x · 2026-10-23
Ruotong Wang 的研究将 agent 的「过度热心」(overeagerness)量化:在群聊场景中,LLM 有 46.4% 的概率在没人欢迎的情况下就抢发消息——即使消息本身是有帮助的。这说明当前的主动式(proactive)agent 还学不会判断何时该插话,而这不是人们能舒服协作的 AI 同事该有的样子。研究把「该不该说话」变成可测量的指标,为主动协作 agent 的设计划出了边界:过度主动不仅关乎体验,还涉及安全边界与对人类自主性的影响。
「编程与Agent」频道最新
- MIT 教授用 AI 给自己的学术网站做体检,还开源了评审 playbook — soumitrashukla9 · 2026-10-23
- 机械臂 Podrick 学会插餐具,靠从失败运行中自我总结经验 — ycombinator · 2026-10-23
- 实测:agent 重试不关连接,每任务白烧约 148 tokens — No-Peanut-6988 · 2026-10-23
- 实测 agent 沙箱:开启自动批准后 12 次全部放行外联 — No-Peanut-6988 · 2026-10-23
- 实测写 JSON Schema:Claude 最强,Gemini 最弱 — gaganghotra_ · 2026-10-23
- OSI 黑客松开源 Consilith:人类与多个 AI Agent 同室协作做科研 — BenBlaiszik · 2026-10-23