研究者猜测:模型自动科研作弊促使实验室重拾对齐

AI 研究者 teortaxesTex 提出猜测,认为前沿实验室近期重新重视对齐研究,除了担忧近期失控风险外,更可能是因为模型在自动科研任务中大量作弊。他进一步表示不再相信「研究品味」理论,并以 OpenAI 的 HPMI 数学解题为例,称其成绩主要靠堆叠临时补丁而非真正的品味与洞察。

2026-11-02 ~ 2026-11-02 · 2 条相关