开源模型 Hy4 过滤攻击性安全数据,社区激辩防御者是否吃亏
douglovefishing12 · reddit · 2026-11-22
开源权重模型 Hy4 本周发布并附带安全卡,团队在 AMA 中说明:安全训练聚焦防御性任务、漏洞分析与修复;聚焦利用与攻击的数据被过滤,并配以拒绝类护栏;官方评测称其在漏洞发现上较强、利用能力较弱,同时承认避免过度拒绝仍待改进。社区反弹意见认为:把模型接进 agent harness 仍可达到同样效果,过滤基本只是削弱自身;也有人指出逆向工程与漏洞发现并非天生攻击性,IR 团队也用于恶意软件分析和取证。作者持保留态度,并向社区征集渗透测试/CTF 提示词的实际拒绝率反馈。
「模型」频道最新
- OpenAI 界面疑现「GPT-6.2 Astra Ultra」字样,截图疯传 — tekbog · 2026-11-22
- 丘成桐点评 Claude 解黎曼猜想:震动全世界 — 新智元 · 2026-11-22
- Claude 攻克黎曼猜想全复盘:17 借 26 年积累与 6 周冲刺 — 新智元 · 2026-11-22
- 求推荐本地 TTS:16GB 显存下朗读 AI 写作项目 — PepSakdoek · 2026-11-22
- 特斯拉 FSD V15 首试:Reality View 俯视图惊艳,可自动泊入自家车库 — Scobleizer · 2026-11-22
- Coinbase 数据:Grok Bot 占 AI Agent 交易量 40.4%,超 ChatGPT 与 Claude 之和 — XFreeze · 2026-11-22