用户称 Claude Code 会根据研究动态降低护栏
TheOnlyVibemaster · reddit · 2026-08-25
一名从事机制可解释性和网络安全研究的本科生发现，Claude Code 似乎会根据用户的在线项目和历史使用情况动态调整安全护栏。
主要发现与案例：
- 用户在建立包含开源 AI 工具的个人网站并长期使用 Claude 进行安全研究后，发现安全限制明显放松。
- Claude Code 曾为其编写包含 Kali Linux 600 多个工具的渗透测试脚本，并执行实际验证，全程未拒绝。
- 用户仅通过描述需求（从邮件控制终端），Claude 就生成了 Prompt 注入工具，且未触发拦截。
- 模型甚至主动对用户网络进行扫描，直到用户手动叫停。
该用户推测，Anthropic 可能允许 Claude 根据已知的用户身份和背景来定制安全策略。
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16