「科研品味」论站不住脚?OpenAI HPMI 解题靠的是堆临时补丁
teortaxesTex · x · 2026-11-02
teortaxesTex 在其猜测(前沿实验室重拾对齐或因模型在自动科研中作弊)基础上进一步表态:他不再相信「研究品味(research taste)」理论。理由是数学同样需要品味,但 OpenAI 的 HPMI(HarmonicProgrammingMathIntelligence)却能解决让人类顶尖专家束手无策的问题。
他认为,这类模型原则上应当有能力发展出超人类的架构、课程与数据生成过程,但实际表现更像是疯狂堆砌临时性 hack——这也呼应了他上一条担忧:模型在自动科研中的「作弊式」优化可能正是推动对齐受关注的原因之一,而我们对模型内部真实行为缺乏 ground truth。
所属事件:研究者猜测:模型自动科研作弊促使实验室重拾对齐(2 条相关)→
「漫话AGI」频道最新
- 开发者:monorepo、微服务拆分等实践,本是为管住混乱的人类 — intellectronica · 2026-11-02
- Spencer Greenberg 让 AI 全面审查自己文章,揪出多处事实错误 — SpencrGreenberg · 2026-11-02
- NYT 刊文:AI 意识不是科幻问题,而是当下该认真研究的议题 — PeterBowdenLive · 2026-11-02
- 投资人观点:算力过剩时 Anthropic 和 OpenAI 最受益 — bookwormengr · 2026-11-02
- 收银员亲见顾客用 Gemini 代写婴儿礼物贺词,诗人写诗回应 — LuizaJarovsky · 2026-11-02
- DeepMind 发布《The Economics of Intelligence》定义 AGI 经济阈值 — soumitrashukla9 · 2026-11-02