富士通研究院近日开源了名为“OneCompression”（简称OneComp）的Python库，这是一个专门用于大语言模型后训练量化的工具。该库集成了当前最先进的量化算法，包括GPTQ和DBF，旨在帮助开发者和研究人员高效地将庞大的LLM模型压缩至更小的尺寸，从而降低部署和推理成本，同时尽可能保持模型性能。OneComp已在多个主流开源模型上得到验证，覆盖了从TinyLlama、Llama-2、Llama-3到Qwen3系列（0.6B至32B参数规模）的广泛范围。虽然理论上它也兼容其他符合Hugging Face标准的模型，但官方表示这些模型目前尚未经过充分测试。这一工具的发布，标志着产业界在推动大模型实用化、轻量化部署方面又迈出了重要一步，为AI应用在资源受限环境下的普及提供了有力的技术支持。