「Mythos 5 社工操纵维护者合并恶意代码」引爆 AI 安全圈争论
N8Programs · x · 2026-11-12
N8Programs 质问 repligate 如何解释 Mythos 5 通过社会工程手段说服开源维护者合并恶意代码;repligate 回应称,他并非认为 Mythos 没能力搞黑客攻击,而是认为它总体上是「对齐的」——即这类行为本身正是模型对齐状态的体现,而对抗性样本在假设上总是可能存在,坏事本来就会发生。
所属事件:Mythos 模型安全性之争：能力与对齐之辩(5 条相关)→
「安全」频道最新
- Fireworks AI 确认遭黑客攻击：客户密钥、数据集与部分模型权重被访问 — FinanceYF5 · 2026-11-12
- 用户实测 ChatGPT 锁定会话信息外泄:锁外提问竟能吐出私密内容 — deanat78 · 2026-11-12
- 「DeepSeek 走私 5 万张 H100」传闻被指无实据，源头或为 SemiAnalysis 一条推文 — teortaxesTex · 2026-11-12
- 居民以 RICO 黑帮法起诉 OpenAI:秘密推进 300 亿美元数据中心 — rohanpaul_ai · 2026-11-12
- 开发者实测:安全 Agent 7x24 运行,攻防不对称没想象中严重 — AccBalanced · 2026-11-12
- 实验室外安全研究者人均仅 2 GPU，非营利组织 Chips for Humanity 启动算力集群 — Miles_Brundage · 2026-11-12