漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-11-16 talkingdev

Serverless无服务器数据系统的架构

云数据服务的未来是大规模和多租户的。本文介绍了现实世界中无服务器多租户(MT)数据架构,以了解不同类型的系统如何实现无服务器MT。虽然一些模式立即跳出来,但是调查的系统之间有惊人的多样性。本文涵盖了什么是...

Read More
2023-10-03 talkingdev

Cloudflare推出全球GPU网络上的无服务器AI推断平台——Workers AI

Cloudflare近日发布了一款名为“Workers AI”的无服务器人工智能推断平台,该平台运行在其全球GPU网络上。Workers AI提供了多种流行的开源模型,并与Hugging Face进行了合作。通过无服务器计算的方式,用户可以在Cloud...

Read More
2023-08-09 talkingdev

Candle:简洁的机器学习框架助力无服务器部署

Candle是一个具有简单语法的机器学习框架,能够从生产工作负载中剔除Python,实现无服务器部署。

Read More
2023-08-08 talkingdev

LanceDB 2.0 - 开源无服务器向量数据库

LanceDB是一款针对AI应用的新型开发者友好型无服务器向量数据库。它可嵌入应用程序中,无需管理服务器,其扩展性依赖于磁盘而非内存,具有低延迟性。LanceDB支持向量搜索、全文搜索和SQL,并针对多模态数据进行了优...

Read More
2023-06-21 talkingdev

新兴架构为LLM应用提供新机遇

这篇文章由a16z撰写,讨论了一些新兴的LLM应用架构,包括联邦学习、边缘计算和无服务器计算。这些架构为LLM提供了新的扩展方式和更高效的运行方式,可能会在未来推动LLM的广泛应用。

Read More
  1. Prev Page