来自arXiv的最新研究论文提出了一种名为DFloat11的动态长度浮点无损压缩框架，通过创新性地利用LLM权重中BFloat16格式的低熵特性，实现了30%的模型体积缩减，同时保持输出结果与原始模型的比特级一致性。该技术采用基于频率的动态编码方案，结合专门设计的GPU内核实现高效在线解压缩，包含三大关键技术突破：将内存密集型查找表分解为适配GPU SRAM的紧凑版本、通过两阶段内核协调线程读写位置，以及采用Transformer块级解压缩以降低延迟。实验数据显示，在Llama-3.1、Qwen-2.5和Gemma-3等最新模型上，该技术不仅保持精确输出，还带来1.9-38.8倍的吞吐量提升，并在固定GPU内存条件下实现5.3-13.17倍的上下文长度扩展。最引人注目的是，该方案成功在8块80GB GPU的单节点上实现了810GB的Llama-3.1-405B模型无损推理，为大规模语言模型部署开辟了新路径。