安全护栏被反向利用：指纹脚本报「生物武器」拒答成混淆手段
nlarusstone · x · 2026-10-29
一位逆向工程研究者用 Playwright 爬取 Tranco Top Sites 上万个网站，拦截 canvas 指纹相关浏览器 API 调用，把收集到的 1000 多个指纹画布聚合到 fingerprint.garden。在逆向一个异常复杂的指纹脚本时，他发现代码会被 LLM 安全护栏判定为「制造生物武器」而拒绝分析——这揭示了一个新问题：
- 有人可能故意把代码写得触发 biorisk 拒答，利用 LLM 的过度拒绝作为混淆技术，阻止模型协助分析和防御；
- 这类混淆会提高网络安全风险：安全研究员依赖 LLM 做代码分析，被拒答就少了一道防线；
- 帖子作者（Anthropic 员工视角的转发者）也对此表示惊讶，认为「用 biorisk 过度拒答做 LLM 混淆」正在开始被实际使用。
所属事件:反爬脚本用敏感函数名坑 AI，安全护栏反成混淆工具(2 条相关)→
「Fun」频道最新
- 7 岁孩子用语音指挥 ChatGPT 做出可玩的 3D 宝可梦风游戏 — dotey · 2026-10-30
- 日本人付3万上大学换 Mac Studio 教育折扣,省下约50万日元 — vincent_koc · 2026-10-30
- 用 Minimax-H3 复刻《黑道家族》名场面,配 VibeVoice 配音 — YTLupo · 2026-10-30
- 每个 Mac 应用都想当会议记录器，用户求你们住手 — francesc · 2026-10-30
- 水墨部首肉鸽游戏 Brushsworn:木叠成林,火叠成炎 — ezshine · 2026-10-30
- 直接读取脑电信号帮失语者恢复交流,网友感叹「在扮演上帝」 — rand_longevity · 2026-10-30