Agent 第一种没有评测的技能:谨慎——别把用户隐私泄露给第三方

victor_explore · x · 2026-09-24

Zuckerberg 提出,个人 AI Agent 需要一种编码 Agent 从不需要的技能:discretion(谨慎分寸)——比如替你订餐厅时,可能要绕开你的饮食限制或怀孕信息,但不能向餐厅透露任何这些内容。

开发者 @victorexplore 由此指出一个评测盲区:目前所有 agent eval 都只打分「任务是否完成」,没有一个评测衡量「完成过程中泄露了多少信息」。他建议:开始记录你的 Agent 交给了第三方什么数据——因为「你泄露了什么」将是用户最先追问的数字。这是对 agent 隐私评测缺位的务实提醒。