OpenAI 回应计算深度争议,Brundage 呼吁持续嵌入式审计
sjgadler · x · 2026-09-02
围绕「前沿模型计算深度是否趋近 GPT-4」的争议,OpenAI 研究员 merettm 发声明:包括 Astra 在内的当前前沿模型计算图深度与 GPT-4 相差在 2 倍以内,OpenAI 从第一批推理模型起就致力于保留并利用思维链监控,认为该技术虽脆弱且趋势不佳,但仍是观察模型对齐如何泛化的窗口,强化它是当前研究项目的核心目标。
前 OpenAI 政策负责人 Miles Brundage 转发表示,自己对 2 倍 GPT-4 的说法能否澄清疑虑没有定论,但欣慰 OpenAI 快速发声,并希望业界从「事后回应事故与泄密」转向对这类问题的持续嵌入式审计。
所属事件:OpenAI 集中回应 neuralese 争议：前沿模型仍可监控(11 条相关)→
「漫话AGI」频道最新
- Scott Alexander 新文：用拟人化模型预测 AI 行为 — repligate · 2026-09-02
- 争议：Anthropic 是否故意让 Claude“错误对齐”？ — liminal_bardo · 2026-09-02
- 预测 AI 6 个月内攻克重大疾病，3 年内攻克所有疾病 — davidpattersonx · 2026-09-02
- 丹尼特「意向立场」概念在 AI 争议中显价值 — birchlse · 2026-09-02
- 美国年产 40 个基础模型远超欧盟 3 个,监管被指拖累 — PDXFato · 2026-09-02
- 不必创造新物种，让计算机解决问题 — alexisgallagher · 2026-09-02