微软DeepSpeed更新，fp6模型推理速度提升超过2倍

微软的强大DeepSpeed训练库更新了，可以让模型每个参数使用6位。这可以将推理速度提升超过2倍。

Read More