漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2024-04-29 talkingdev

FrugalGPT:有效降低LLM API成本的策略

FrugalGPT是一套可以大幅度降低LLM API成本的策略。这些策略包括提示压缩、缓存等操作。提示压缩可以通过减少数据大小来降低传输和存储成本,同时也可以提高数据处理速度。而缓存则可以通过存储经常访问的数据来减少...

Read More
2024-04-09 talkingdev

FlyFlow开源:API中间件助力优化LLM应用

FlyFlow是一个专为优化基于大型语言模型(LLM)的应用程序而设计的API中间件。该中间件通过简化API调用流程,提高数据传输效率,使得开发者能够更加便捷地构建和维护基于LLM的应用程序。FlyFlow支持自动化的错误处理...

Read More
2024-04-07 talkingdev

Faces.js:一款用于生成基于向量的卡通人脸的JavaScript库

Faces.js是一个全新的JavaScript库,它可以帮助用户轻松地生成基于向量的卡通人脸。该库使用了机器学习算法来自动生成面部特征,包括眼睛、嘴巴、鼻子和头发等。用户可以通过简单的API调用来自定义人脸的各种属性,...

Read More
2023-05-31 talkingdev

Gorilla模型大幅提升LLMs在生成API调用方面的能力

Gorilla模型是基于大型语言模型(LLMs)的一种精细模型,显著优于现有模型如GPT-4在编写API调用方面的表现。它帮助语言模型更有效地使用工具。结合文档检索器,Gorilla可以很好地适应更新的文档,最小化不准确的生成...

Read More