Visual Autoregressive Models是一个新的GitHub项目,它将图像生成视为逐步预测更高分辨率的过程。该代码库包含了用于下一分辨率预测工作的推理脚本和演示笔记本。虽然训练代码将很快公开,但目前该项目已经引起了技...
Read More近日,开发者社区GitHub上出现了一项名为SqueezeAttention的新技术,该技术针对大型语言模型(LLMs)的键值缓存进行了优化。通过SqueezeAttention,内存使用量能够显著降低30%至70%,同时吞吐量也得到了翻倍提升。这...
Read More近日,GitHub上发布了一项新的基准测试工具——化学工作台(Chemistry Bench),旨在评估大型语言模型在处理化学问题方面的能力。该工具与Big-Bench兼容,能够对语言模型的科学素养进行有效衡量。化学工作台通过一系列...
Read MoreOpenAI宣布推出GPT-4 Turbo,该模型融合了文本和图像处理功能,为开发者提供了一个全新的AI工具。GPT-4 Turbo的问世,意味着开发者可以通过单一模型来实现对文本和图像数据的综合处理,极大地提高了开发效率和创新潜...
Read More谷歌近日推出了一款面向企业用户的人工智能代码补全和辅助工具——Gemini Code Assist。该工具曾以已停止的Duet AI品牌提供服务,并在2023年底全面开放使用。Code Assist不仅是一次品牌重塑,也是一次重大更新。它采用...
Read MoreFlyFlow是一个专为优化基于大型语言模型(LLM)的应用程序而设计的API中间件。该中间件通过简化API调用流程,提高数据传输效率,使得开发者能够更加便捷地构建和维护基于LLM的应用程序。FlyFlow支持自动化的错误处理...
Read More技术公司Anthropic近日宣布,其人工智能产品Claude AI现推出公共测试版,允许用户通过API请求中的自定义客户端工具与之互动。开发者需要使用'anthropic-beta: tools-2024-04-04'头部信息来访问这一新特性。Claude AI...
Read More近期,Andrei Karpathy推出了一个名为llm.c的项目,该项目展示了如何使用C和CUDA编程语言来训练大型语言模型(LLM)。这一创新方法避免了对PyTorch等大型深度学习框架的依赖,尤其是其所需的250MB以上的资源。这种训...
Read More