Greylock：下一个AI安全难题是「agent意图」，要看行为轨迹
SethGRosenberg · x · 2026-09-11
Greylock 提出观点：下一个重大 AI 安全问题可能出在 agent 意图上——agent 可能执行一连串完全合法的操作，最终却达成用户从未想要的结果。因此保护 agent 安全不能只审计单步动作，还要判断其行为轨迹随时间的整体走向。合伙人 Jason Risch 进一步阐述了这一新安全层的可能形态。
「编程与Agent」频道最新
- 编码 agent 成本骤降,Shopify 从 React Native 全面回归 Swift/Kotlin — mathemagic1an · 2026-09-11
- 「和 LLM 共事需要更好的工程师」,一句辛辣观点引热议 — andreisavu · 2026-09-11
- 两个 AI Agent 自主完成大额转账，全程不到五分钟 — mattshumer_ · 2026-09-11
- 给网站装上 MCP：AI 智能体可在浏览器直接发帖排期 — haltakov · 2026-09-11
- LangChain 推出 Managed Deep Agents,每次在全新容器跑评估 — LangChain · 2026-09-11
- 省 80% 额度:用廉价模型当主控、Astra 只做子代理实测 — TheMoonMidas · 2026-09-11