论文一作华人浓度爆表

原标题：NeurIPS 2024最佳论文揭晓！北大字节VAR获最佳论文，清华厦大研究获提名
文章来源：量子位
内容字数：4559字

NeurIPS 2024最佳论文揭晓

在刚刚结束的NeurIPS 2024会议上，最佳论文奖项揭晓，其中有三篇由华人研究者主导，涉及北大、新国立大学、厦门大学和清华大学等机构。与去年相比，本届的竞争更加激烈，共有15671篇有效论文投稿，而最终接收率仅为25.8%。以下是获奖论文的详细介绍。

1. 最佳论文

本届NeurIPS共评选出两篇最佳论文：

（1）《Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction》

该论文由北京大学与字节跳动的研究者共同完成，提出了一种名为Visual Autoregressive Modeling (VAR)的新框架。VAR模型通过多尺度自回归生成图像，相较于传统方法显著提高了生成速度，并在ImageNet数据集上表现优异，超越了现有的自回归模型和扩散模型。

（2）《Stochastic Taylor Derivative Estimator: Efficient amortization for arbitrary differential operators》

此论文由新加坡国立大学和Sea AI Lab的研究者共同完成，提出了Stochastic Taylor Derivative Estimator (STDE)算法，旨在优化高维和高阶微分算子的神经网络损失函数。研究显示，该方法在处理物理信息神经网络时，提供了大幅的速度提升和内存减少，并开启了高阶微分算子在大规模问题中的应用可能性。

2. 最佳论文亚军

此外，还有两篇最佳论文亚军：

（1）《Not All Tokens Are What You Need for Pretraining》

由厦门大学、清华大学及微软的研究者共同完成。论文提出了一种新的语言模型预训练方法RHO-1，强调并非所有tokens在训练中都同样重要。通过选择性语言建模（SLM），该方法显著提升了在数学任务上的准确率，并改善了数据效率。

（2）《Guiding a Diffusion Model with a Bad Version of Itself》

由英伟达和阿尔托大学共同完成，提出了一种自引导方法，通过使用主模型的较小版本来提升图像生成质量。实验结果显示，该方法在不同分辨率下均能显著改善生成效果。

总结

NeurIPS 2024的最佳论文展示了在图像生成、微分算子优化和语言模型预训练等领域的创新进展，这些研究不仅为相关领域提供了新的视角，也为未来的研究方向指明了道路。接下来，期待这些成果能够在实际应用中发挥更大的价值。

联系作者

文章来源：量子位
作者微信：
作者简介：追踪人工智能新趋势，关注科技行业新突破