近日,xAI宣布完成了由顶级投资者领投的60亿美元B轮融资。本轮融资将用于推进其AI系统的发展,包括增强版的Grok-1模型。资金将主要用于产品的市场推广策略、基础设施建设以及研发。本次融资的成功体现了市场对xAI技...
Read MorexAI近期公开发布了Grok-1模型的权重和架构。Grok-1是一种混合专家模型,拥有3140亿参数。发布的模型是Grok-1预训练阶段的原始基础模型检查点,这意味着它并未针对任何特定应用进行精调。该模型是由xAI使用自定义训练...
Read More人工智能领域的领先企业xAI近日宣布,已将其拥有3140亿参数的Mixture-of-Experts模型——Grok-1的权重和架构公开。Grok-1采用JAX编写,并融入了现代Transformer架构,包括GeGLU、ROPE、三明治范数等先进技术。此次公开...
Read More