新论文:GPU 拥塞会逆转 SFT 与 ICL 个性化收益排序
zainhas · x · 2026-09-20
一篇新论文《Supervised Fine-Tuning vs. In-Context Learning: An Equilibrium Analysis of LLM Personalization under Congestion》提出:在共享 GPU 容量受限时,个性化选 SFT 还是 ICL 不只是质量-成本权衡,而是一个拥塞博弈(congestion game)。
要点:
- 哪种方法更优取决于预训练覆盖度与个性化数据的信噪比(SNR),拥塞可能逆转两者的排序。
- 更高的预训练精度会降低拥塞,但更广的覆盖有时反而会增加拥塞。
- 平台同时提供 SFT 和 ICL 两种方式,永远不会降低最大利润。
论文将 LLM 个性化、平均场博弈(mean-field games)与平台设计联系起来。
「研究」频道最新
- 亿级规模 arXiv 完整数据集登 Hugging Face 热门榜 — secemp9 · 2026-09-20
- 谷歌 ScientistTwo 自主改进 86/107 个 ML 问题,成功率 80.4% — rohanpaul_ai · 2026-09-20
- 谷歌 ScientistTwo 论文:全自主多智能体框架产出可发表级研究 — rohanpaul_ai · 2026-09-20
- Gated Recurrent Transformer:3层循环深度模型打平12层GPT-2 — burny_tech · 2026-09-20
- 斯坦福造出 3.7 万 AI 科学家智能体虚拟药企 — Dr_Singularity · 2026-09-20
- 理论计算机学者自嘲:一年前质疑 LLM 证明猜想,如今已被打脸 — burny_tech · 2026-09-20