据报道，使用公共API即可窃取闭源语言模型的部分内容，例如嵌入层。这项技术只需不到2000美元的预算即可实现。

近期，开源社区发布了一个名为Fructose的Python包，其主要用途是为LLM调用创建可靠强类型接口。 Fructose是一个轻量级Python包，它可以帮助开发人员避免与LLM交互时的一些常见错误，例如类型不匹配或缺失参数。通过...

Anthropic的Claude 3似乎在一系列认知任务上树立了新的行业标准。该公司声称，在某些情况下，它接近于“人类水平”的能力。Claude 3有三个模型：Claude 3 Haiku，Claude 3 Sonnet（为Claude.ai聊天机器人提供动力）和C...

Modular推出了一款名为MAX的工具包，可大大简化和加速AI部署。现在可用。MAX提供了一个简单易用的接口，可以在几分钟内为任何深度学习模型构建和部署一个API。它还为开发人员提供了一个可扩展的插件系统，以便更轻松...

Daft是一种专门为云端大数据处理而设计的分布式查询引擎。它具有熟悉的交互式API、强大的查询优化器、数据目录集成、丰富的多模式类型系统等特点。Daft的设计目的是能够处理任何数据，它专为大型机器集群上的交互式...

AWS Sigv4作为中间件的实现，允许开发人员模拟AWS API和兼容AWS的服务。

近日，Meta提出了一种三亿五千万参数的语言模型，其强大的推理能力甚至接近Llama 7B在API函数调用任务中的正确性。该模型尚未发布，但固定参数模型的创新值得探索。

法国AI初创公司Mistral宣布推出新的API模型，并与Azure达成合作。Mistral Large在多语言任务方面表现出色，在MMLU上仅比GPT-4差了几个百分点，性能强大。该初创公司还在其API中添加了一个新的mistral-small模型。