开源|Molt:英伟达发布原生PyTorch智能体强化学习框架,可扩展至万亿参数MoE模型训练
thinkindev • 2026-07-28
1700 views
英伟达NeMo团队近日在GitHub上开源了一个名为Molt的智能体强化学习框架。该框架采用PyTorch原生设计,核心理念是将智能体本身视为可执行的程序,而非传统强化学习中固定的策略网络。Molt支持高度灵活的自定义Python奖励函数、丰富的工具调用、多模态环境交互以及基于大语言模型(LLM)的评判机制,极大地拓展了智能体在复杂场景下的学习与适应能力。在工程架构上,Molt采用了一套极其紧凑高效的技术栈,整合了分布式计算框架Ray、高吞吐推理引擎vLLM、英伟达自研的AutoModel以及全分片数据并行策略FSDP2。正是借助这一组合,Molt能够将训练规模平滑扩展至万亿参数的混合专家(MoE)模型,为构建具备自主决策、环境交互和自我进化能力的下一代通用人工智能Agent提供了坚实的底层基座。这一框架的开源,有望加速具身智能、自动化科研和代码生成等前沿领域的研究进程。
核心要点
- Molt是一个PyTorch原生的智能体强化学习框架,将智能体本身作为可执行程序进行训练和优化。
- 支持自定义Python奖励、工具调用、多模态环境和LLM评判,极大提升了智能体的灵活性和通用性。
- 通过整合Ray、vLLM、NVIDIA AutoModel和FSDP2,可扩展到万亿参数混合专家模型训练。