英伟达发布新的人工智能芯片，声称运行LLMs的成本将“显著降低”
talkingdev • 2023-08-09
1174191 views
英伟达宣布推出GH200，一款专为运行人工智能模型设计的新芯片。它与H100使用相同的GPU，但搭配了141GB内存和一个72核的ARM中央处理器。额外的内存将允许更大的人工智能模型在单个系统上运行，并显著降低推理成本。GH200将在今年年底提供样品，并在明年第二季度开始销售。英伟达代表拒绝透露芯片的价格。
talkingdev • 2023-08-09
1174191 views
英伟达宣布推出GH200，一款专为运行人工智能模型设计的新芯片。它与H100使用相同的GPU，但搭配了141GB内存和一个72核的ARM中央处理器。额外的内存将允许更大的人工智能模型在单个系统上运行，并显著降低推理成本。GH200将在今年年底提供样品，并在明年第二季度开始销售。英伟达代表拒绝透露芯片的价格。