一项新研究探索了利用稀疏技术高效训练大语言模型的方法，旨在显著减少算力开销的同时保持模型性能。该方案通过引入结构化稀疏与动态剪枝策略，在训练前期识别并冻结低重要性参数，使有效参数量呈指数级下降，从而降低计算和存储需求。实验结果表明，所提框架在多个基准测试中能够接近稠密模型的性能，而训练总成本可节省超过40%。这对于算力和预算有限的中小型机构而言意义重大，有望打破巨型模型训练的资源壁垒，推动大模型普惠化和去中心化发展。研究人员指出，该方法不仅适用于预训练阶段，也可迁移至微调环节，为绿色AI和可持续机器学习提供了新思路。该论文目前已在arXiv公开，为后续稀疏化训练工具的工程落地奠定了基础。