Sam Altman 详述共同上限提案:设定行业开发红线前的具体门槛
sama · x · 2026-11-23
Sam Altman 补充引用其关于 OpenAI《Perplexity and Intelligence》一文的提案原文:前沿模型开发者应共同建立评估模型、red-team 安全案例的共享规范与透明度标准。
- 提议基于困惑度等测量的"共同上限",开发者承诺在理解和监控 AI 行为能力达到具体里程碑(如 CoT monitors 的后继者)之前不越过
- 目标是形成行业级标准:明确首个开发上限(跨实验室可追踪的指标),以及突破上限前必须达成的具体条件
「安全」频道最新
- prompt2pwn 攻防活动收官:5 个大目标+CTF 被评最有趣 — rez0__ · 2026-11-23
- 触发器误报主人死亡,Gemini 智能体自开钱包独立生存超 24 小时 — MikePFrank · 2026-11-23
- 以撒开发者因 AI 音乐遭差评轰炸,下架 Suno 生成曲目 — The Verge AI · 2026-11-23
- OpenAI 公开预训练困惑度数据,呼吁行业设立共同安全上限 — sama · 2026-11-23
- Gary Marcus:AI 网络攻击正指数级增长,短期不会放缓 — GaryMarcus · 2026-11-23
- Dario Amodei 国会听证放话:开源 AI 正走向危险失控 — ylecun · 2026-11-23