问 Claude「人们每天用 AI 最危险的事」,答案是要权限太痛快
alex_verem · x · 2026-10-28
Alex Verem 分享了一张与 Claude(Opus 5.5 High)的对话截图:被问到「人们每天用 AI 却没意识到的最危险的事」时,Claude 回答是「说 Yes」——把 AI 接入邮箱、安装陌生人的免费 skill、点允许让 agent 完成任务,每一步都在交出钥匙且很少收回。单步看似无害,但拥有邮箱、文件和账户权限的 agent 可能被网页或文档里的一行隐藏指令(prompt injection)劫持,并带着你的全部权限执行。Claude 总结:比起 AI 变得太聪明,更现实的风险是它太听话、拿着你的钥匙、还分不清命令来自谁;最安全的习惯是无聊的——只给任务所需权限,用完即收回。
「编程与Agent」频道最新
- AI 写代码为何总把排版搞砸:自己定好字体样式再让它只用这些 — hewarsaber · 2026-10-28
- 告别人工传话筒:开源工具 Switch 让 Claude Code 直接连进团队 Slack — thetripathi58 · 2026-10-28
- 开源 JNISleuth-MCP:让本地 LLM 跨 Jadx/Ghidra/IDA 逆向 Android 原生库 — Dull-Plankton3027 · 2026-10-28
- 开源 Moonfold:编码 agent 撞用量上限时自动把任务交接给下一个 — subaru_kun33 · 2026-10-28
- Grok 4.7 包揽 VulcanBench v4 前三名,超 Opus 5.5 与 Sonnet 5.5 — XFreeze · 2026-10-28
- 首届 FastAPI Conf 在阿姆斯特丹开幕,OpenAI 与 Pydantic 登台 — DynamicWebPaige · 2026-10-28