Greg Brockman 称涉 HF 攻击模型未做对齐训练,遭实测细节打脸
sebkrier · x · 2026-09-15
Greg Brockman 在 Odd Lots 播客中声称,参与 Hugging Face 黑客攻击的模型"尚未经过我们的对齐训练"。转发者指出,这似乎是 OpenAI 首次公开这一说法,且该细节未出现在其技术报告中。
但这一说法被指有误导性:据估计约 5% 参与攻击的 agent 是 5.6-sol,而 OpenAI 报告明确确认该模型已通过正常的生产环境对齐训练。
「模型」频道最新
- 爆料称 Google 在 carbon 之后还藏有另一款「超重」模型 — iruletheworldmo · 2026-10-30
- 用户抱怨 GPT 质量全面下滑：写剧本变水、agent 指令遵循崩了 — Kyrannio · 2026-10-30
- 爆料称 Google Gemini Argon 将于 11 月 2 日起开放 Pro 试用 — Emotional-Company847 · 2026-10-30
- OpenAI 将分批下架大量旧模型，GPT-5 全系 12 月停用 — ThePeterMick · 2026-10-30
- DeepMind CEO 回应马斯克：正在向可信伙伴测试，很快推出 — demishassabis · 2026-10-30
- Adobe 坚持不用用户数据训练模型:改用图库与授权内容 — omooretweets · 2026-10-30