漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2024-07-26 talkingdev

Zen 5的2-ahead分支预测器:如何利用30年前的想法实现新功能

Zen 5是AMD公司的一款最新处理器,它的2-ahead分支预测器是一项重要的技术创新。这种分支预测器可以帮助CPU在处理指令时更快地判断分支的方向,从而避免处理器浪费时间在错误预测上。这项技术的基础理论可以追溯到30...

Read More
2024-07-20 talkingdev

Aro开源—Zig的新C编译器

近日,Zig的新C编译器Aro在GitHub上发布。Aro是基于Zig语言的全新C编译器,旨在提供更好的错误处理和代码生成。与LLVM不同,Aro使用现代的代码生成技术,可以在编译时检测出更多的错误,并提供更好的诊断信息。此外...

Read More
2024-06-05 talkingdev

货船的数学优化技术

货运业一直在努力降低物流成本。为了实现这一目标,船运公司正在利用数学优化技术来提高船舶运行效率。数学优化技术是一种通过最小化成本或最大化利润的方法来优化特定问题的技术。在船运业中,这些问题包括如何最大...

Read More
2024-05-15 talkingdev

如何让Postgres查询速度提升1千倍

Postgres是一个流行的关系型数据库,但在处理大型数据集时可能会变得缓慢。一项新的研究表明,通过使用特定的查询优化技术,可以将Postgres查询速度提高1千倍。研究人员发现,通过使用特定的索引和优化查询语句,可...

Read More
2024-05-09 talkingdev

QoQ高效量化算法助力LLM推理加速

QoQ,一种新型量化算法,通过使用4位权重、8位激活和4位KV缓存,加速了大型语言模型推理。量化是一种广泛应用于深度学习中的技术,它能够减少模型的存储需求和计算复杂性。在这种情况下,QoQ算法采用了较低精度的数...

Read More
2024-05-02 talkingdev

微梦想家算法驱动的3D生成技术

科研人员已经开发出一种名为微梦想家(MicroDreamer)的创新3D生成算法。这种算法通过降低所需函数评估的数量,显著加快了3D生成的过程。微梦想家算法采用先进的计算策略和优化技术,大大提升了3D建模和渲染的效率和...

Read More
2024-04-02 talkingdev

论文:Transformer-Lite,在手机GPU上运行大型语言模型

在移动设备上运行语言模型面临着延迟、带宽和功耗等多方面的挑战。本研究通过采用量化技术、移除键值缓存以及其他优化手段,成功实现了在手机上以每秒30个令牌的速度运行强大的Gemma 2B模型。这一成果比其他框架快约...

Read More
2024-03-21 talkingdev

GritQL:用声明式查询语言革新源代码搜索与修改

GritQL是一个用于搜索和修改源代码的声明式查询语言,它利用Rust语言和查询优化技术,能够扩展至超过1000万行代码的庞大代码库。GritQL内置模块系统包含超过200种标准模式,支持对多种目标语言进行重写,包括JavaScr...

Read More
  1. Next Page