新技术发布：MosaicML发布具有更长“上下文”的语言模型

MosaicML最近发布了一种新的语言模型，可以处理多达65k个“词”的文本。这意味着该模型可以将整个小说《了不起的盖茨比》放入上下文中，并根据其写出一篇结尾。以下是该技术的三个核心要点： - 传统的语言模型只能在有限的上下文长度内运行（ChatGPT为8k“词”） - MosaicML的新模型可以处理长达65k个“词”的文本 - 该模型可用于多种应用场景，例如自动撰写文章、翻译文章等 该技术的发布是语言处理领域的重大突破，将为自然语言处理带来更大的灵活性和可塑性。