多次采样让 Llama 3 8B 超越 GPT-4o 单次表现

Azalia Mirhoseini 实验室的「Large Language Monkeys」论文显示,Llama 3 8B 通过大规模多次采样,在竞赛编程和形式化数学任务上超越了 GPT-4o 的单次表现。Mirhoseini 还提出降本思路:由大模型生成多个候选答案,再交由小得多的验证模型挑选最佳结果,通过「生成-验证」分工降低智能的单位成本。

2026-11-17 ~ 2026-11-17 · 2 条相关