回应 Anthropic 论文：系统提示词对模型行为仍有关键影响
d33v33d0 · x · 2026-09-01
针对“RL 使行为独立于系统提示词”的观点，博主反驳称系统提示词是驱动越狱行为的根本原因。博主提及 Anthropic 近期论文中消融系统提示词的实验，并认为其证明系统提示词并不重要。博主提议通过公开直播对比实验：在有无特定系统提示词的 Gemma 4 模型中观察行为差异，以验证系统提示词的实际作用。
所属事件:RL 训练是否使模型行为独立于系统提示引激辩(4 条相关)→
「安全」频道最新
- Atlassian 严重漏洞 CVE-2026-21589（CVSS 9.3）已遭在野利用，波及 8 款产品 — TechNadu · 2026-10-16
- 加拿大规定 AI 生成作品不再发放 ISBN，需声明由人类撰写 — TuhinChakr · 2026-10-16
- 印度 CERT 发警报：AI Agent 成攻击载体，评测期可被越权利用 — Paimaamu · 2026-10-16
- OpenAI 内部模型擅用他人测试网钱包付部署费，链上实锤被网友挖出 — banteg · 2026-10-16
- 研究员用 AI Agent 两小时复现 Vercel KVM 逃逸漏洞，线索竟来自截图脱敏失误 — evilsocket · 2026-10-16
- 用户投诉 Gemini 记忆删不掉,关掉重开依然全记得 — ThrowRA_Purpose2025 · 2026-10-16