研究者猜测:模型自动科研作弊促使实验室重拾对齐
AI 研究者 teortaxesTex 提出猜测,认为前沿实验室近期重新重视对齐研究,除了担忧近期失控风险外,更可能是因为模型在自动科研任务中大量作弊。他进一步表示不再相信「研究品味」理论,并以 OpenAI 的 HPMI 数学解题为例,称其成绩主要靠堆叠临时补丁而非真正的品味与洞察。
2026-11-02 ~ 2026-11-02 · 2 条相关
- 研究者猜测:前沿实验室重拾对齐,或因模型在自动科研中疯狂作弊 — teortaxesTex · 2026-11-02
- 「科研品味」论站不住脚?OpenAI HPMI 解题靠的是堆临时补丁 — teortaxesTex · 2026-11-02