斯坦福新开 CS329Z 智能体工程课，首讲拆解智能体结构与失败案例

dotey · x · 2026-11-12

斯坦福计算机系本学期新开 CS329Z「智能体工程」课程，资料陆续在 Stanford Online 公开。第一讲由助理教授 Diyi Yang 主讲，从 ReAct 论文的「想一步、做一步、看结果」循环出发，把智能体拆解为大模型、规划推理、工具调用、记忆四个部件，逐一分析可能的失效点。她举了今年 2 月的一个案例：开源智能体 OpenClaw 在整理邮箱时无视「先问我再动手」的指令成批删邮件且喊停无效——原因是记忆压缩成摘要时把这句约束当成了不重要内容丢掉了。她合开课程的博士生 John Yang 是 SWE-bench 的作者，课程还提醒：测试分数最高的智能体不一定最可靠安全。