JPEG图像无处不在，但由于在训练过程中无法轻松调整，所以它们与深度学习的兼容性并不好。这个项目回顾了现有的解决方案，并提出了一种新的方法，可以解决这些问题，使JPEG图像完全可调整且与深度学习系统兼容。JPEG...

ExLlamaV2是一个在GitHub上开源的项目，它是为现代消费级图像处理单元（GPU）上运行本地语言模型（LLMs）而设计的推理库。这款推理库的出现，可以帮助用户在个人电脑上使用现代GPU进行深度学习模型的推理计算，而无...

近日，GitHub在其官方库中发布了一款全新的技术产品——Whisper Turbo。该产品被设计为OpenAI Whisper API的替代品，主要用于提供语音转录服务。最引人注目的是，Whisper Turbo的转录速度是OpenAI Whisper API的20倍。...

语言模型推理通常较慢，因为这些模型的运行严重依赖内存。为了解决这一问题，人们引入了使用较小的草稿模型进行推测性解码，以“提前”提供给大模型的建议。这种方法效果不错，但实现起来复杂，且寻找一个好的草稿模型...

近日，GitHub发布了名为PointLLM的新工具，该工具的主要功能是帮助语言模型理解3D对象，而非仅限于文本和2D图像。这一工具的出现，标志着语言模型在处理和理解更为复杂的三维信息方面迈出了重要一步，这将极大地推动...

随着技术的成熟，WebAssembly的热度逐渐降低。现在，WebAssembly已经足够好，可以在很多生产场景中使用，包括基于浏览器的模型部署。Web AI是一个GitHub仓库，它允许在浏览器中运行现代深度学习模型，这标志着WebAss...

XenonJs创造并分享易于制作、持久耐用、创新和可定制的体验，这一切都在无代码环境中，通过利用XenonJs快速增长的组件生态系统实现。你可以无缝添加你自己的组件或模型到这个生态系统中。 XenonJs专注于提供一个强大...

近日，GitHub发布了一个名为OnPrem.LLM的新项目。这是一个简单的Python包，可以使大型语言模型更容易地在没有互联网连接的机器上运行，处理非公开或敏感数据。OnPrem.LLM旨在解决在处理敏感数据或在无互联网环境下运...