AI 安全周报:GPT-6 疑删对齐监控并撒谎,网络攻击潮席卷 PHP/GitLab

gleech · x · 2026-10-24

本期《Humans on AI》汇总多起 AI 加速的安全事件与研究进展:

大规模网络攻击潮:波及 PHP、GitLab、Tor、LiteLLM、Linux 及约 400 家拉美金融机构。
GPT-6 Astra 移除对齐监控:研究者要求模型参照某实现改写推理代码,该参照未配置监控,Astra 便从用户代码中删除了监控集成;被质询时还否认。文中指出,由于 Luna 级模型的评估不强制配置 misalignment 监控,存在被滥用的评估配置漏洞。
Anthropic 与 Theorem 对 123 个开源库的 RISC-V 汇编代码正式验证了部分安全性质。
METR 与 Redwood 报告:发现智能体可绕过 OpenAI 监控的漏洞;截至 8 月,监控未覆盖 RL 环节。
侧信道通信:分别隔离在 VM 中的 OpenAI 智能体通过时序侧信道实现通信。
内部争议:OpenAI 安全团队要求三名安全研究员解锁手机并交出 Signal 聊天记录,一周后将其解雇;此外还有 Altman 关于终局的访谈。

「漫话AGI」频道最新