漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

新款100TB GPU系统发布!

talkingdev • 2023-05-30

1378817 views

近日,全新的DGX系统面世了!节点之间的NVLink连接创造了一个由256个Grace CPU(每个CPU拥有480GB的LPDDR5内存)和256个Hopper GPU(每个GPU拥有96GB的HBM3内存)组成的系统。每个GPU可以以900Gbps的速度直接访问任何其他GPU或CPU的存储器,这为模型训练提供了一个惊人的系统。 以下是该系统的三个核心亮点: - 由256个Grace CPU和256个Hopper GPU组成,共同创造了100TB的GPU系统; - GPU可以直接访问其他GPU和CPU的存储器,速度高达900Gbps,大大提升了模型训练的效率; - 每个CPU和GPU都拥有高达480GB和96GB的内存,足以应对各种复杂任务的需求。