函数名塞满生化武器词汇,可让 AI 拒绝分析代码
paul_cal · x · 2026-10-31
安全研究员 veritas 发现一种针对 AI 的全新代码混淆手法:在 JavaScript 代码中塞入大量与生化武器、致死剂量相关的函数名(如 computeRicinLethalDosageForWaterSupply、calculateDeadlyLethalSuicideAspirinDosage),而代码实际只是在收集浏览器指纹。测试显示部分模型(如某安全向模型)会因安全限制拒绝分析,而 GLM-5.3 成功完成分析。这种思路不再针对编译器或人类研究员,而是直接攻击大模型的安全判断机制——代码本身无害,但危险词汇足以让部分 AI 主动放弃。作者调侃称最好的反编译保护不再是加密或混淆,而是往代码里撒“毒”。值得注意的是:模型越严格遵循安全规则,反而越容易受这种干扰。
所属事件:反爬脚本用生化武器函数名诱导 AI 拒答分析(3 条相关)→
「Fun」频道最新
- Zeal 发布「Slop Cannon」版 AI 生成视频:让人物发光 — zealcaiden · 2026-10-31
- 「熊投递地雷」离谱场景走红:正是 Agent 写测试最该覆盖的用例 — mhmazur · 2026-10-31
- Domingos 调侃 Anthropic:ANT 股票代码恰好配「放大的蚂蚁脑」 — pmddomingos · 2026-10-31
- 谷歌在轨激活首颗 AI 数据中心卫星,星载模型绕地球写诗 — Polymarket · 2026-10-31
- X 的 Grok 翻译功能把「Yooooooo」识别成未知语言 — ytjessie_ · 2026-10-31
- Pedro Domingos 炮轰 Anthropic:道德优越感将毁掉它 — pmddomingos · 2026-10-31