burny:LLM 为何突然擅长数学与安全?现有解释无法预测未来

burny_tech · x · 2026-10-04

开发者 burnytech 提出质疑：我们其实无法解释为什么 LLM 在数学和网络安全上突然大幅变强。常见解释「好的 RL 环境加上 RL magic」虽然没错，但只是同义反复——既不能说明未来的可能性，也划不出能力边界。

他认为缺少的是一个具体的预测性理论：给定这份数据、这些 RL 环境、这种架构，能推出在什么难度水平上解出多少数学/安全问题的模型。他用 Popper 的标准要求一个有良好预测与解释力、能区分不同未来情景的理论，而不是什么都事后能拟合的模糊叙事。