这篇帖说,很多 AI agent 只是好看 UI 包着薄弱安全
danielbaker06072001 · reddit · 2026-07-22
这篇 Reddit 观点帖直接批评:很多 AI agent demo 本质上只是“看起来很酷的 UI + 很差的安全设计”。
作者举例说,如果公司给 bot 一上来就接入 Stripe、GitHub、Slack 和 CRM,而系统又无法识别“到底是谁在用这条连接”,那就等于把管理员权限伪装成了自动化。MCP 让接工具变容易,但并不能解决授权问题。帖子主张,每个 agent 都应该有明确的负责人、权限边界、禁止动作和必须人工确认的升级节点;否则出事时背锅的只会是人,不会是 bot。
「编程与Agent」频道最新
- 递归自我改进智能体将接管一切业务流 — bindureddy · 2026-07-22
- AI 智能体范式演进:从循环、图到意图工程 — alex_verem · 2026-07-22
- 防社工还是搞操纵?开发者推 AI 邮件博弈竞赛 — NeonKiwiYT · 2026-07-22
- Reddit 热议:如何防止 Claude 乱用过时 API 浪费 Token? — badassudon · 2026-07-22
- 实测 Kimi K3 多智能体协同:6 美元 token 打造 Agent Swarm — ChrisGPT · 2026-07-22
- Neverbell 发布开源基础设施,让 AI 智能体执行金融操作 — ChrisGPT · 2026-07-22