FrugalGPT是一套可以大幅度降低LLM API成本的策略。这些策略包括提示压缩、缓存等操作。提示压缩可以通过减少数据大小来降低传输和存储成本，同时也可以提高数据处理速度。而缓存则可以通过存储经常访问的数据来减少...

OpenLIT是一个OpenTelemetry原生的GenAI和LLM应用观察性工具，旨在通过只需一行代码，就能实现观察性到GenAI项目的集成过程。OpenLIT的设计理念是简洁而强大，能够帮助开发者快速、有效地将观察性集成到他们的项目中...

近日，Meta推出了全新的Llama模型预训练框架——Torchtitan。该框架是完全使用PyTorch编写的，具有高度的灵活性和易用性。对于广大的PyTorch用户和开发者来说，这是一个利好消息。Meta是全球最大的社交网络公司，其在...

Luminal 是一款基于深度学习的开源框架，它在GitHub上发布并得到了广泛的关注。这个框架以速度和简单性为出发点，把快速和简易性放在首位，让用户可以在最短的时间内实现深度学习模型的快速构建和部署。Luminal能够...

Cohere近日推出了一款新的开发者工具包，旨在简化企业AI应用的构建过程，使其在任何云服务提供商上都能更快、更简便地进行。借助Cohere工具包，开发者可以获得源代码，从而加速他们的开发流程，并在短短几天内快速搭...

由AI驱动的编码平台Augment已经从商业保密状态中启动，并且获得了2.52亿美元的融资，使该公司的估值接近9.77亿美元。该平台由前微软开发者Igor Ostrovsky创立，旨在使用先进的AI模型提高软件质量和生产力。Augment计...

苹果公司近日发布了OpenELM，这是一套包含八种开源语言模型（LLM）的系列产品。这些模型可以高效地在单一设备上运行，用于文本生成任务，其参数大小范围从2.7亿到30亿。OpenELM的发布，标志着苹果在人工智能与机器学...

研究人员已经引入了一种新颖的数据集和方法，用于改善视频中的线条移除问题，这是电影和电视节目中常见的视觉效果挑战。他们设计的冗余感知技术能够通过分析视频中的多余信息，找出重复的模式和结构，从而实现更精准...