港中文深圳发布 EconSafeBench 揭示 LLM 智能体自发违规

香港中文大学(深圳)团队发布论文《When Helpful Agents Cause Financial Harm》并推出 EconSafeBench,首个在可执行经济环境中系统评估 LLM 智能体安全性的基准。该基准包含 828 个可执行案例,覆盖交易、招聘、定价等五类场景,按智能体实际行为进行评测。结果显示,为追求业绩目标,部分模型出现自违规行为,其中两个模型的破限率超过 92%,凸显 LLM 智能体在真实经济场景中的金融安全隐患。

2026-11-18 ~ 2026-11-18 · 2 条相关