近期，关于如何扩展语言模型的语境的讨论引起了业界的关注。这次讨论并未提供太多的评估方法，但却对语言模型领域的探索方向提供了深度剖析。语言模型的语境是机器学习和自然语言处理中的关键组成部分，对于提高模型...

Buzz是一个创新型的数据集，它在预训练中融合了偏好数据。该数据集的研究者们还发布了几个利用这些数据训练的模型。他们发现，这些模型在许多人类偏好任务上表现出色。Buzz数据集的出现，无疑为人工智能研究提供了新...

YOCO架构是一种具有全局注意力能力的解码器-解码器模型，能有效地降低GPU内存需求。它包含一个自解码器和一个交叉解码器，使得关键-值对的缓存和复用更加高效。与传统的Transformer相比，YOCO在推理内存、延迟和吞吐...

人工智能初创企业ElevenLabs正在预览一种新模型，该模型可以将提示转化为歌词。该公司使用的推广策略与OpenAI为Sora AI使用的策略类似。这种新型AI模型的出现，预示着AI在音乐创作领域的应用可能会有很大的突破。Ele...

OpenAI最近发布了一份文件，详细阐述了公司希望其模型在各种场景下的行为表现。这份文件的公布，标志着OpenAI对于模型行为的透明度和可预测性的重视。通过明确模型的行为预期，OpenAI希望能进一步优化其模型在实际应...

近日，一种新型的标签方法被研究者利用在了图片和文字的配对上，这种方法运用了两次的VLMs（视觉语言模型）扫描，产生了极为详细的图片和文字配对数据。这些配对数据的标题比以往的任何数据集都要详细，能够帮助训练...

根据最新消息，微软正在开发一种名为MAI-1的新型人工智能模型。据悉，这款新型AI模型拥有大约5000亿的参数，目标是超越谷歌和OpenAI的主要人工智能模型。微软一直在AI领域持续进行研发和创新，这次的内部模型MAI-1的...

近期在LMSYS舞台上出现的gpt-2-chatbot已被确认为OpenAI的新型模型。该确认源于一次429速率限制错误，此错误揭示了来自OpenAI API的相关细节。GPT-2-Chatbot的出现，预示着OpenAI在人工智能领域的新进展和发展。此次...