比如，DeepSeek-Coder通过重复采集5个样本，性能优于GPT-4o，而成本却仅为后者的三分之一。

　　其次再选择特定领域的验证器Verifier（比如代码的unittests），从生成的样本中选择最终答案。

　　他们关注的是yes or no的任务，在这些任务中，答案可以直接被打分为对或者错，主要指标是成功率——即能够解决问题的比例。

　　因此，成功率既受到为许多问题生成正确样本的能力（即覆盖率）的影响，也受到识别这些正确样本的能力（即精确度）的影响。

　　结果显示电脑翻墙的危害，在多个任务和模型中，覆盖率随样本数量增加而提升，在某些情况下，重复采样可使较弱模型超越单样本性能更好的强模型，且成本效益更高

　　比如在使用Gemma-2B解决CodeContests编程问题时。随着样本数量的增加，覆盖率提高了300倍以上，从一次尝试的0.02%提高到10000次尝试的7.1%。解决来自GSM8K和MATH的数学单词问题时，Llama-3模型的覆盖率在10,000个样本的情况下增长到95%以上。

　　在Llama-3和Gemma模型中，可以观察到覆盖率与样本数呈近似对数线性增长，超过几个数量级。

　　在不同参数量、不同模型以及后训练水平（基础模型和微调模型）下，都显示通过重复采样Scaling推理时间计算，覆盖率都有一致的提升。

　　此外，他们还证明了这种Scaling还能降本增效，以FLOPs作为成本指标，以LIama-3为例。

　　对比API成本，当采样较多时，开源 DeepSeek-Coder-V2-Instruct 模型可以达到与闭源模型GPT-4o相同的问题解决率，而价格仅为后者的三分之一。

　　在一系列模型和任务中，重复采样可以显著提高使用任何生成样本解决问题的比例（即覆盖率）。当可以识别出正确的解决方案时（通过自动验证工具或其他验证算法），重复采样可以在推理过程中放大模型的能力。

　　与使用较强、较昂贵的模型进行较少的尝试相比，这种放大作用可使较弱的模型与大量样本的组合更具性能和成本效益。

　　这篇论文是来自斯坦福、牛津大学以及谷歌DeepMind团队。TogetherAI提供计算支持。

　　o3在评价器的指导下，通过回溯动态搜索程序空间，而这种方法则依赖于静态采样和事后评价（投票、奖励模型等）。两者都能扩展推理计算，但O3的适应性更强。

　　o3会反复探索解决方案，不断完善路径，而重复采样会并行生成输出，没有反馈回路。如何取舍？o3的计算密集度更高，但在需要结构化推理的任务中表现出色。这种方法在编码/数学方面更具成本效益。