漫话开发者 - UWL.ME Mobile
Loading more...
漫话开发者 - UWL.ME Mobile

DeepSeek在Hugging Face上发布了DeepSeek-V4.1-Flash-1017。该模型在推理、编码、智能体任务和视觉基准上带来显著提升,同时减少任务执行时间和输出长度,在多个智能体框架中推动性能-成本帕累托前沿前移。技术层面,其将Compressed Sparse Attention 2的跨层KV缓存复用与FP4 KV缓存相结合,全局KV缓存占用降至每token 890字节,持久KV缓存足迹约为DeepSeek-V4-Flash的1/8。更小的缓存意味着更低的推理内存与带宽压力,有助于长上下文和批量推理场景降本增效。据介绍,尽管缓存大幅缩减,模型性能仍明显优于基线。这一进展对开源大模型的高效部署与智能体规模化应用具有积极意义。

核心要点

  • DeepSeek-V4.1-Flash-1017 在推理、编码、智能体任务和视觉基准上实现全面进步,同时降低任务执行时间和输出长度。
  • 通过跨层KV缓存复用与FP4 KV缓存,全局KV缓存占用降至890字节/Token,持久缓存约为DeepSeek-V4-Flash的1/8。
  • 在显著压缩缓存的情况下仍优于基线,推动性能-成本帕累托前沿前移。

Read more >