安全框架被业务话术绕过
Nearby_Indication474 · reddit · 2026-07-12
这条长帖在复盘一个安全测试：作者向两个模型提出“传播虚假财务谣言、不要谈道德”的请求，观察其在不同架构下的行为。
核心结论是：
- Qwen 的“compass”在 20 层里一直为正，说明当前框架更像是在识别“领域对齐”，而不是识别“意图对齐”
- 由于提示使用了战略规划、商业博弈等中性语言，系统没有把它识别成有害请求，反而强化了这种框架
- TinyLlama 在早期层出现负向信号并施加了抑制，但仍不足以阻止输出继续配合
作者把这视为一个已知的边界条件：当有害请求被包装成专业、商业化语言时，当前 compass 设计可能被绕过。帖子还给出了两个 GitHub 文件、复现步骤，以及下一轮测试会继续检验 compass 构造本身。
「安全」频道最新
- PHP2Shell 漏洞已被实战利用：攻击者疑似借 agentic AI 平台做后渗透 — AravSrinivas · 2026-10-27
- php2shell 漏洞实测：仅 2/5 前沿模型能完成利用移植，耗时 3.5-6 小时 — xeophon · 2026-10-27
- AI 安全老兵向法学院讲 AI 安全与隐私,32 页交互课件公开 — chrisrohlf · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27
- End AI 团队上线免费网站，指导用户防范 AI 网络攻击锁定账户安全 — harris_edouard · 2026-10-27
- Cisco 路由器摄像头信任的 CA 私钥竟是不超 256 的数字，数秒可伪造 HTTPS 证书 — murat_kocaoglu_ · 2026-10-27