OpenAI 事故调查引争议:METR 用 LLM 分析7万条agent消息被指自由裁量过大
JeffLadish · x · 2026-09-07
围绕 OpenAI 相关事故的调查方法,Jeffrey Ladish 主张应公开全部原始数据供社区人工复核,认为即便泄露部分 IP 也符合公共利益。
被引用的观点指出两个关键事实:METR 在调查中用 LLM 阅读了 1,300 条思维链和 70,000 条 agent 消息;HuggingFace 的复盘报告也承认 agent 活动日志中存在数千行不连贯文本。这意味着人类调查者在从杂乱原始数据中提炼「agent 意图叙事」时有很大的自由裁量空间。
作者建议更原则化的做法:对全部 agent 文本语料做「纯统计」分析并报告结果,而不是把数据压缩成单一时间线事件叙事。
「安全」频道最新
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- Reddit 讨论：中国 AI 实验室对美国生态还有多依赖？ — lol2funneeee · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27