给个人 Agent 开放邮箱和文件后,他把安全模型浓缩成一条规则
SIGH_I_CALL · reddit · 2026-09-08
一位开发者构建了能读邮件、文件和屏幕并执行操作的个人 agent,发现安全工作的重心不该是让模型足够聪明去识别 prompt injection,而应假设它终将被骗。
他最终落定一条硬规则:私密数据 + 不可信内容 + 对外发送通道 = 硬性阻断。恶意网页或有毒邮件单独存在未必致命,危险状态是 agent 能在同一链路中读取不可信指令、接触隐私数据并向外发送信息。
于是他不再试图检测每一次注入,而是限制哪些能力允许共存:某些状态转换要么需要人工批准,要么在结构上不可能发生。他提出 agent 安全的核心问题正从「模型能否识别攻击」转向「模型必然被骗时,系统能做什么」,并公开了架构与威胁模型文档。
「编程与Agent」频道最新
- 博主同时跑 20 个 Grok Bot 分工管理日程、路线图与周报 — inkko44 · 2026-10-26
- YC 新公司 Pomerado 开源：把任意网站变成 API，宣称比浏览器 agent 快 2-4 倍 — moeinteractive · 2026-10-26
- 大厂全做 AI 沙箱,Modal 与 Daytona 靠盒外一层仍居增速榜前列 — FinanceYF5 · 2026-10-26
- 用 Claude 搭建全自动 SEO 流水线的六步工作流 — martyamark · 2026-10-26
- 用 agent 三条教训:别靠它读论文、别混学英语、别为烧 token 后台跑任务 — ZeYanjie · 2026-10-26
- Google 社区活动不必全用谷歌技术:Next.js 加 Firebase 也算数 — weskambale · 2026-10-26