漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-12-08 talkingdev

StableFast开源,更快的Diffusers推理引擎

Stable Fast是HuggingFace扩散模型的推理引擎,通过它可以进行快速的Diffusers推理。该推理引擎在多种硬件上实现了出色的性能,包括CPU和GPU。此外,Stable Fast还兼容多个框架,包括PyTorch和TensorFlow。在GitHub...

Read More
2023-10-18 talkingdev

HuggingFace diffusers开源轻量快速推理引擎

近日,HuggingFace diffusers轻量快速推理引擎在GitHub上线。该引擎通过许多小改进,实现了大幅提升推理速度的目标,声称每秒可达60步,比原来的23步快了许多。该引擎在自然语言处理任务中表现优异,受到了许多开发...

Read More
2023-08-30 talkingdev

LangFuse开源:LLM应用的观察和分析解决方案

LangFuse是一种为LLM(低延迟的消息)应用设计的开源可观察性和分析解决方案。它主要针对生产环境使用,但也有一些用户在本地开发他们的LLM应用时使用。LangFuse的主要目标是提供实时的、深入的、可操作的见解,以帮...

Read More
2023-06-21 talkingdev

Opera发布AI集成的浏览器

Opera表示其具有生成式人工智能技术的浏览器已经准备好供公众使用。

Read More
  1. Prev Page