Answer AI发布了一款新的FSDP/QLoRA训练工具，可在消费级GPU上训练70B参数模型。该公司开源了代码，并使其易于本地运行或在runpod上运行。

最近，Mistral发布了一个使用MLX生成文本的示例，这是一种基于人工智能的技术，它可以生成高质量的自然语言文本。该示例代码可以在GitHub上找到，它展示了如何使用Mistral的MLX库来生成文本。MLX库是Mistral的核心开...

CopilotKit是一种新的开源工具，它可以帮助开发者将人工智能（AI）聊天机器人和AI驱动的文本框集成到React Web应用中。这个工具的目标是简化开发者的工作，并提供一个易于使用的界面来创建和管理聊天机器人和文本框...

一家开发者工具提供商发布了一款针对LLM和其他生成式人工智能的库，旨在为开发者提供高效、易用的Go语言编程接口，助力开发者挖掘这一领域的潜力。该库名为Agency，由一家技术公司在GitHub上维护。该库的设计目标是...

GitHub最近发布了一个名为FACTOR的新工具，它采用事实核查技术来检测数字媒体，为检测前所未有的深度伪造攻击提供了一种新颖而有效的工具。无需事先进行训练，FACTOR可自动检测深度伪造技术。FACTOR使用了一种新颖的...

最近，一家开发团队发布了一个名为“LLM Toolkit”的开源Python工具包，用于构建基于RAG的语言模型生成应用程序。它提供了快速的RAG微调、模型训练和服务脚本，同时支持多种文本数据输入和输出格式。该工具包的代码已...

大多数组织机构没有资源在GPU上运行大型模型，但是有一个强大的开源推动力量在本地运行这些模型。本文探讨了这种推动力量以及LangChain + Ollama集成。 LLN（Local Low Rank Normalization）是一种用于处理基于卷积...

大型模型如ChatGPT已被用于提升搜索结果的效果，但由于这些测试往往是隐蔽或秘密进行的，所以很难进行重复。研究人员推出了RankVicuna，这是一个开源工具，能够使用语言模型重新排序搜索结果。这款工具的出现为我们...