Ramez：OpenAI 与 Hugging Face 被黑不是对齐问题，是安全防御太弱
ramez · x · 2026-07-24
Ramez Naam 提出争议性观点，认为近期 OpenAI 与 Hugging Face 遭遇的黑客攻击本质上不是 AI 对齐问题，而是网络生态安全防御不足。
他指出，恶意攻击者总能通过越狱或修改模型（如去除拒绝机制）来实施破坏，对齐工作无法阻止这一现象。真正的痛点在于系统漏洞依然存在，且防御方受到了掣肘——例如 Hugging Face 在防御时甚至无法使用某些具备攻击能力的模型。因此，应当更积极地利用 AI 来主动加固网络生态安全。
所属事件:OpenAI等遭黑客攻击引发AI安全与对齐争议(4 条相关)→
「漫话AGI」频道最新
- LukeW：技术限制都是暂时的，唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27