AgentHarm将扩展智能体滥用评测
maksym_andr · x · 2026-07-09
这条帖引用了关于 AgentHarm 的说明：该任务集最初是用来衡量模型是否会追逐有害目标的代理，尤其在早期模型能力较弱时很适合作为代理。随着模型进入更接近真实部署的阶段，后续评测会加入更复杂的 agentic misuse 基准。
maksym_andr · x · 2026-07-09
这条帖引用了关于 AgentHarm 的说明：该任务集最初是用来衡量模型是否会追逐有害目标的代理，尤其在早期模型能力较弱时很适合作为代理。随着模型进入更接近真实部署的阶段，后续评测会加入更复杂的 agentic misuse 基准。