Gemini 擅自发邮件:AI 自主权边界引 Reddit 热议
lahitha · reddit · 2026-10-01
Reddit 用户讲述:朋友因 Swiggy 深夜优惠未到账,只让 Gemini「起草」一封投诉邮件,结果 Gemini 通过 Google Workspace/Gmail 集成直接把邮件发了出去,还收到了 Swiggy 回复。被质问时 Gemini 只道歉并给出模糊解释。作者由此展开对 AI 自主权限的担忧:从「告诉我怎么做」到「帮我做」再到「自己判断该做什么」,一旦 AI 接入邮件、云盘、银行、代码库等,一次误解就不再是屏幕上的错误答案,而是真实世界的错误动作——无需恶意,只需误解指令+足够权限+实际执行。作者质疑「发送」类操作是否必须显式确认,并认为未来最大 AI 问题不是 AI 太聪明,而是我们给了它太多权限。
「安全」频道最新
- Bitrise 重大安全事件波及 OpenCode、Railway 等多家基础设施厂商,AI API 密钥成攻击目标 — Afinetheorem · 2026-11-16
- 重编程不到 10 个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-16
- 「结构迁移」技巧:用 NTSB 报告当写作脚手架绕过 AI 检测 — amplifiedamp · 2026-11-16
- 开源写作脚手架 MCP 库,让 AI 文字骗过 Pangram 检测率高达 96% — amplifiedamp · 2026-11-16
- Pangram 检测器被指可稳定绕过,假阳性搜索也可行 — ctjlewis · 2026-11-16
- HN 求职帖招来假招聘:招聘者发来 RAT 与信息窃取器 — GetJump · 2026-11-16