OpenAI 提出以困惑度为标尺的预训练进度透明化安全机制
dhadfieldmenell · x · 2026-11-23
OpenAI 研究员 merettm 发布《Perplexity and Intelligence》,提出以困惑度(perplexity)等可量化指标建立行业共同的安全标尺:预训练进展超过某个阈值后,应以对 AI 行为的理解能力为门槛进行管控(gating)。转发者 yonashav 认为这是值得赞赏的透明化举措,使"在达到 SL4 安全等级前困惑度不得低于 0.7"这类可量化、可执行的行业标准成为可能,并希望此举为其他实验室树立先例,推动行业主动采取有成本的减速行动。
所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→
「漫话AGI」频道最新
- 数学家转行话术反噬:当「换个赛道」轮到自己头上 — AccBalanced · 2026-11-23
- Dario Amodei 被曝称 AI 抢走工作后可用游戏安抚大众 — esporx · 2026-11-23
- 开发者断言:末日论 AGI 布道者将如「比特币储备货币论者」般被遗忘 — PAstynome · 2026-11-23
- 数学家 Kontorovich 重读三年前 AI 辅助数学推理笔记 — AlexKontorovich · 2026-11-23
- 生物学家反驳 AI 圈「生物学可被解决」论:癌症是上千种疾病 — GaryMarcus · 2026-11-23
- Stripe 创始人宣布「世界已进入奇点」,硅谷高管集体附和 — coherence · 2026-11-23