斯坦福 CS329Z 拆解 Agent 三大难题：可靠性、交互失败与隐私安全

stanfordnlp · x · 2026-11-12

斯坦福 Diyi Yang 在 CS329Z《Engineering AI Agents》课上强调，Agent 能力越强，技术与安全障碍越突出：- 可靠性与评测：benchmark 成绩与真实可靠性差距明显，标准指标难以捕捉一致性、抗干扰（如网页弹窗）与可预测性；- 交互失败：Agent 常与用户协作不畅，如买菜 Agent 不问位置和偏好就自行假设，做出有害或不需要的操作；- 隐私与安全：Agent 需要访问高度敏感的用户信息才能运转，风险随之放大。