近期，一篇关于强化学习（RL）如何扩展至惊人10^26 FLOPs（每秒浮点运算次数）的探讨引起了业界广泛关注。文章指出，强化学习被视为构建前沿AI模型，尤其是大型语言模型（LLMs）的下一个核心训练技术。传统观点认为，通过投入更多数据进行训练能显著提升模型性能，然而，当前RL的扩展方法复杂且效率低下，难以有效利用海量数据。该文提出了一项雄心勃勃的路线图：通过应用RL实现对整个互联网数据的“下一词元预测”（next-token prediction）。这意味着，未来的AI模型将能够直接从庞大的网络信息中进行推理和学习，而非局限于数学公式或编程代码等特定领域数据。这一突破性进展有望彻底改变AI模型的训练范式，使其具备更广泛、更通用的世界知识和理解能力，从而推动通用人工智能（AGI）的发展。