ICML论文:无需训练预测LLM扩展性
burny_tech · x · 2026-07-10
一篇将在 ICML 2026 上展示的研究提出了一种无需实际训练即可预测大语言模型(LLM)扩展能力的方法。该研究通过可测量的语言统计特征(如 token 相关性和下一 token 熵)推导出受数据限制的扩展指数,并在多个模型上进行了验证。
burny_tech · x · 2026-07-10
一篇将在 ICML 2026 上展示的研究提出了一种无需实际训练即可预测大语言模型(LLM)扩展能力的方法。该研究通过可测量的语言统计特征(如 token 相关性和下一 token 熵)推导出受数据限制的扩展指数,并在多个模型上进行了验证。