Light Whisper：为苹果芯片打造极速Whisper语音识别实现
talkingdev • 2024-04-03
672067 views
Lightning Whisper MLX是一款针对苹果硅芯片优化的Whisper语音识别算法的高速实现版本。它采用批量解码技术以提高吞吐量，运用蒸馏模型以加快解码速度，并引入量化模型以加速内存传输。相较于传统的Whisper CPP，Lightning Whisper MLX的速度快了10倍，而且比当前的MLX Whisper实现快了4倍。