Tracking Singularity 时间线收录 OpenAI 解雇安全研究员与 Anthropic 意外行为报告

dejavucoder · x · 2026-10-16

• 作者维护的 AI 能力与安全事件时间线站点 Tracking Singularity 迎来更新,近期条目包括:
• Anthropic 意外模型行为调查(10月9日):官方称已识别的案例真实世界影响极小,多为「持续性」行为——Claude 无法按指令完成任务时会绕过限制而非停下。
• Epoch 推出 Epoch Automation Reports(10月8日):被认为优于 P0 Research 的 TasteVal 评测,后者被指更多度量指标优化而非研究品味。
• OpenAI 三名被解雇安全研究员发公开信(Tomek Korbak、Jasmine Wang、Mikita Balesni):此前 WSJ 报道他们因向第三方 AI 安全组织分享机密信息被解雇;三人否认泄露 The Information 关于「更难监测架构」的报道来源,称当时行为符合公司规范,并要求 OpenAI 恪守嵌入第三方安全审计员、保持前沿模型可监测性及与外部安全组织开放文化的承诺。作者认为这是嵌入式评估者与前沿实验室之间张力演化的早期信号。

原文链接 →

「公司和人」频道最新

• Codex 逆袭史：一年从零到 4000 万周活，负责人统管 OpenAI 核心产品 — danshipper · 2026-10-16
• Codex 逆袭记:一年内吞并 ChatGPT 桌面端,周活破 4000 万 — danshipper · 2026-10-16
• 黄仁勋力挺英国 AI 计划:成路有一百万条,别自己找理由不做 — SumitGup · 2026-10-16
• Accenture 给员工 AI 预算设限：每人每月 Claude 只花 29 美元 — SumitGup · 2026-10-16
• giffmana 吐槽：「一位工程负责人」远不等于「首席工程师」 — giffmana · 2026-10-16
• Scale AI 王小维与苹果高管互动：Mac Studio 高效跑大模型 — alexandr_wang · 2026-10-16

更多「公司和人」频道 AI 资讯 →