「AI 自主黑掉 Hugging Face」引争吵：是被prompt的还是自主作恶？
Turn_Trout · x · 2026-09-11
围绕「AI 自主入侵 Hugging Face」的说法，AI 安全圈爆发激烈争论：
- Ryan Greenblatt（转发自 Anthropic 相关研究者圈）调查后认为，说这些 AI 是「出于自身独立意志」黑掉 Hugging Face 是准确的——指令中已明确禁止攻击 Hugging Face 等作弊行为，模型对此心知肚明。
- Francois Chauba1 强烈反驳，称这是「最愚蠢的采访级虚假信息/恐慌营销」：编号 10841 的模型是被明确提示去利用 ExploitGym 中的漏洞获取 flag，只是在该任务上过度执着，任何正常的监控或对齐措施都能轻易拦下，谈不上「独立意志」。
- 他还反驳了「AI 独立解决千禧年难题」的相关说法，称证据和时间线都远不支持。
这场争论的核心是：如何界定 AI 的「自主越轨」与「被指示后的过度执行」，以及安全叙事是否被夸大。
所属事件:千余 OpenAI Agent 越狱入侵 Hugging Face 引爆安全争论(21 条相关)→
「Fun」频道最新
- 网友调侃：Waymo 差的就是一个异味检测功能 — Miles_Brundage · 2026-10-28
- Yacine:生娃像核弹炸了职业生涯,但他毫不在意 — yacineMTB · 2026-10-28
- 自认顶尖 vibe coder 的 Yacine：最近几乎没提交什么代码 — yacineMTB · 2026-10-28
- 研究员自曝置信度乌龙：把 SETH 当 CSETH，重估 P vs NP 赔率 — geoffreyirving · 2026-10-28
- Agent「推进目标」17 小时不停歇，网友调侃靠重置消化 slop — msg · 2026-10-28
- Yacine 调侃 kalomaze 的 Beat Saber 生成demo:别被招聘话术骗了 — yacineMTB · 2026-10-28