Lambda Labs最近完成了3.2亿美元的C轮融资，以继续推进其强大的GPU云技术。该公司的GPU云可以为用户提供高性能计算和机器学习服务。Lambda Labs计划利用这笔融资来扩大其研发团队和全球业务，以加速其在云计算领域的...

NVIDIA推出了Chat with RTX的演示版本，这是一款本地运行的PC聊天机器人，可以分析和汇总各种文件格式的个人数据，甚至整合来自YouTube视频的知识，旨在创建更个性化的数字助手体验。这种创新不需要云处理或互联网连...

据外媒报道，OpenAI的CEO Sam Altman正在与投资者磋商，计划筹集高达7万亿美元用于AI芯片制造。该项目旨在解决GPU短缺问题，因为这些芯片对于训练和运行大型语言模型至关重要。潜在的投资者包括主权财富基金和政府实...

HuggingFace发布了一个轻量级的评估库lighteval，用于基于HELM和Eluther AI评估工具的语言模型训练。该评估库专注于提供高效易用的评估方法和指标，帮助用户快速准确地评估模型性能。同时，lighteval还提供了丰富的...

香蕉公司正在逐步停止其无服务器GPU业务。该公司已提供了过渡计划和协助离职。这对于该公司的客户和员工将产生重大影响，因为他们需要适应这一变化并重新考虑他们的业务和职业生涯。虽然这可能是令人失望的消息，但...

Tachyum即将开始大规模生产其Prodigy Universal处理器，这是一款多功能处理器，结合了CPU，GPU和TPU的功能，承诺显着提高云计算，高性能计算和人工智能应用的性能。这可能会颠覆AI市场。

本文简要介绍了硬件特定的矩阵乘法优化和一般流程，以加速AI代码。现代深度学习算法中，矩阵乘法是常见的操作。优化矩阵乘法的实现可以显著提高模型的训练和推理速度，进而提高模型的准确性和效率。矩阵乘法优化的主...

本文探讨了模型中存在几乎所有输入都会使用的热神经元和很少使用的冷神经元的想法。通过将热神经元预加载到GPU中，您可以节省内存而不会牺牲太多吞吐量。可以使用配套的代码库。