接下来将是超级智能：智能体、推理、理解和自我意识。

原标题：Ilya Sutskever发声：预训练将结束，数据压榨到头了
文章来源：Founder Park
内容字数：13151字

Ilya Sutskever 在 NeurIPS 2024 上的演讲要点

本周五，OpenAI 的前首席科学家 Ilya Sutskever 在温哥华的神经信息处理系统会议 NeurIPS 2024 上发表了重要演讲，探讨了人工智能的发展趋势与未来方向。他的观点令人震惊，主要集中在数据的稀缺性和未来模型的自主性上。

1. 数据的峰值与未来挑战

Sutskever 认为，当前可用的数据已经接近枯竭，未来在模型训练中将面临巨大的挑战。他将这一现象比作化石燃料的消耗，指出互联网中的人类生成内容是有限的。他表示：“我们已经达到了数据的峰值，未来不会再有更多数据。”这表明，人工智能行业必须找到更有效的方法来利用现有的数据。

2. 模型的自主性与推理能力

Sutskever 预测，下一代模型将展现出真正的自主性和推理能力。他提到，未来的 AI 系统将能够以类似“思考”的方式逐步解决问题，而非仅仅依赖已知的模式匹配。这将使得这些系统的行为更加不可预测，甚至可能超越当今最优秀人类的表现。

3. 进化生物学的启示

在演讲中，Sutskever 将 AI 系统的扩展性与进化生物学进行了比较，强调不同物种之间的脑与体重比例关系，并提出 AI 可能会发现全新的扩展路径，超越当前的预训练方法。

4. 对未来的展望与思考

他表示，随着 AI 的发展，系统将会变得越来越复杂，推理能力将成为一个核心特征。Sutskever 认为，尽管当前的模型仍存在幻觉现象，但未来具有推理能力的模型将能够自我纠正，从而减少错误的发生。

5. 对人类与 AI 关系的思考

在问答环节中，Sutskever 对于 AI 是否会取代人类或需要权利的讨论表达了谨慎的态度，指出这些问题需要更深入的思考。对于长远的未来，他认为目前的 AI 系统并不具备强大的智能，仍在推理的初期阶段。

总的来说，Ilya Sutskever 的演讲揭示了人工智能领域面临的新挑战和未来可能的发展方向，强调了数据稀缺性和推理能力的重要性，促使业界重新思考 AI 的本质与潜力。

联系作者

文章来源：Founder Park
作者微信：
作者简介：来自极客公园，专注与科技创业者聊「真问题」。