SGLang Diffusion加持:MiniMax-H3视频生成在8×H200上无损提速1.95倍,最高6.24倍
thinkindev • 2026-08-28
2281 views
LMSYS.org发布的最新基准测试显示,在8×NVIDIA H200 GPU环境中,SGLang Diffusion对MiniMax-H3视频生成工作负载实现了显著加速。测试严格固定提示词、随机种子、分辨率、帧率和去噪步数,并在六类工作负载上进行比较。结果显示,SGLang的稠密路径可达到1.95倍无损加速,即在保持输出一致性的前提下将推理效率提升近一倍;若进一步引入步复用和稀疏注意力等近似优化,最高加速可达6.24倍,此时结构相似度(SSIM)落在0.76至0.91之间。该结果对高成本视频生成推理具有重要参考价值:一方面证明针对扩散模型的高效调度、内存与通信优化可以带来可观的端到端收益;另一方面也说明,在可接受质量损失范围内,稀疏注意力和步复用是进一步降低延迟、提升吞吐的关键手段。随着视频生成模型规模持续扩大,这类系统级优化有望缓解部署成本与实时性压力。
核心要点
- SGLang Diffusion在8×H200上对MiniMax-H3实现1.95倍无损加速。
- 结合步复用与稀疏注意力后最高可实现6.24倍加速,SSIM为0.76至0.91。
- 测试固定提示词、种子、分辨率、帧率与去噪步数,强调一致性与可复现性。