OpenAI 提出以困惑度为标尺的预训练进度透明化安全机制

dhadfieldmenell · x · 2026-11-23

OpenAI 研究员 merettm 发布《Perplexity and Intelligence》,提出以困惑度(perplexity)等可量化指标建立行业共同的安全标尺:预训练进展超过某个阈值后,应以对 AI 行为的理解能力为门槛进行管控(gating)。转发者 yonashav 认为这是值得赞赏的透明化举措,使"在达到 SL4 安全等级前困惑度不得低于 0.7"这类可量化、可执行的行业标准成为可能,并希望此举为其他实验室树立先例,推动行业主动采取有成本的减速行动。

所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →