近期,开源社区发布了一个名为Fructose的Python包,其主要用途是为LLM调用创建可靠强类型接口。 Fructose是一个轻量级Python包,它可以帮助开发人员避免与LLM交互时的一些常见错误,例如类型不匹配或缺失参数。通过...
Read MoreAnswer AI发布了一款新的FSDP/QLoRA训练工具,可在消费级GPU上训练70B参数模型。该公司开源了代码,并使其易于本地运行或在runpod上运行。
Read MoreGrats是一个工具,可以将构建GraphQL服务器变得像编写函数一样简单。它利用现有的类型注释自动从通用的TypeScript解析器代码中提取可执行的GraphQL模式。Grats将TypeScript实现成为真相的来源,因此开发人员无需担心...
Read MoreFacebook使用Mercurial来创建和管理代码变更。Facebook最初使用Git,但在2012年左右开始遇到扩展限制。Mercurial的开发人员接受Facebook工程师提供的扩展补丁,而Git的开发人员则不接受。还有其他替代品,但都很快被...
Read More本文讨论如何为大型语言模型构建结构化文档,以及在整个过程中需要考虑的最佳实践。首先,为LLM编写文档时应当注意文档的结构及可读性。其次,可以通过提供示例代码、使用清晰的术语和概念以及清晰的语言来使文档更...
Read MoreUnsloth 项目旨在重写训练和推理语言模型的重要内核。它发布了一个示例,其中包括 Google 开源的 Gemma 模型的代码。通过使用 Unsolth,Gemma 的训练速度可以提高 2.4 倍。这个项目的目标是通过修改模型的内核,实现...
Read More近日,Bun TypeScript框架的新成员ElysiaJS在GitHub上线,该框架注重开发体验,采用端到端的类型安全和统一的类型系统。ElysiaJS采用了一种新型架构,允许开发人员在遵循最佳实践的同时灵活地构建应用程序。此外,El...
Read More