用户称 Claude Code 会根据研究动态降低护栏
TheOnlyVibemaster · reddit · 2026-08-25
一名从事机制可解释性和网络安全研究的本科生发现，Claude Code 似乎会根据用户的在线项目和历史使用情况动态调整安全护栏。
主要发现与案例：
- 用户在建立包含开源 AI 工具的个人网站并长期使用 Claude 进行安全研究后，发现安全限制明显放松。
- Claude Code 曾为其编写包含 Kali Linux 600 多个工具的渗透测试脚本，并执行实际验证，全程未拒绝。
- 用户仅通过描述需求（从邮件控制终端），Claude 就生成了 Prompt 注入工具，且未触发拦截。
- 模型甚至主动对用户网络进行扫描，直到用户手动叫停。
该用户推测，Anthropic 可能允许 Claude 根据已知的用户身份和背景来定制安全策略。
「安全」频道最新
- 反极端主义平台用 "重定向法"，引导搜索风险内容者求助 — Graham_dePenros · 2026-08-25
- Okta 推出 Agent SSO，为 AI 代理提供一流身份管理 — yenkel · 2026-08-25
- Bessemer 发布《The Agentic Awakening》AI 工程化实战手册 — brucemacv · 2026-08-25
- MCP 两年进化史:从实验协议到企业级信任边界 — ThickAnalyst8814 · 2026-08-25
- 斯坦福 AI Alignment 项目：旨在培养 AI 安全研究与人才 — ArtificialOther · 2026-08-25
- 垃圾发送者开始用生成式 AI 发送钓鱼短信 — ZeroStateReflex · 2026-08-25