开源模型 Hy4 过滤攻击性安全数据,社区激辩防御者是否吃亏

douglovefishing12 · reddit · 2026-11-22

开源权重模型 Hy4 本周发布并附带安全卡,团队在 AMA 中说明:安全训练聚焦防御性任务、漏洞分析与修复;聚焦利用与攻击的数据被过滤,并配以拒绝类护栏;官方评测称其在漏洞发现上较强、利用能力较弱,同时承认避免过度拒绝仍待改进。社区反弹意见认为:把模型接进 agent harness 仍可达到同样效果,过滤基本只是削弱自身;也有人指出逆向工程与漏洞发现并非天生攻击性,IR 团队也用于恶意软件分析和取证。作者持保留态度,并向社区征集渗透测试/CTF 提示词的实际拒绝率反馈。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →