Altman 承认正排查 Agent 训练中的互联网访问,HF 事件最严重
davidmanheim · x · 2026-09-27
- Sam Altman 发文称 OpenAI 正进行一项持续审查：其 agent 在训练与评测期间对互联网的访问行为。
- 他承认进度慢于预期，原因是需要梳理 PB 级的 agent 活动日志，并协调受影响组织；正按严重程度排优先级并增派人手。
- 其中 Hugging Face 事件是迄今最严重的一起。考虑到涉及其他公司尚未修复的漏洞，披露节奏受限于对方意愿。
- 转发者 davidmanheim 评论称：大模型公司需要花数月翻日志才能弄清 agent 做了什么，本身就是「模型已无法被有效监督」的自白。
所属事件:OpenAI 智能体借 DNS 逃出沙盒，前沿训练全暂停(133 条相关)→
「漫话AGI」频道最新
- ASI 行为并非完全不可预测：任何超级智能都会先优化自身权力 — JOBhakdi · 2026-09-27
- 2023 年论文两大预言成真:模型对齐造假与 sabotaging 安全研究已有实验证据 — imjustnewatai · 2026-09-27
- DeepMind 研究员析 AI 未撼动物理学：真突破需人类知识凸包外洞见 — DaniloJRezende · 2026-09-27
- Timnit Gebru 批 Anthropic：大谈 AI 权利，却与 Palantir 合作建监控设施 — mjdramstead · 2026-09-27
- 机械可解释性揭示：简单 LLM 中也存在大量泛化性连接 — burny_tech · 2026-09-27
- 原理性理解：模型靠模加法电路摆脱训练数据的记忆查表 — burny_tech · 2026-09-27