首页

欢迎访问中国电子企业协会!

您现在所在的位置是:首页 >   > 正文

生成式人工智能推动,传英伟达今年将销售55万个H100 GPU

2023-08-16

       据tomshardware报道,生成式人工智能热潮正在推动用于人工智能(AI)和高性能计算(HPC)的服务器的销售,数十家公司将从中受益,但英伟达将可能获益最多。英国《金融时报》称,英伟达预计到2023年将售出超过50万个高端H100计算卡GPU,价值数百亿美元。


       据多位与英伟达和台积电有关的内部人士表示,英伟达计划于2023年在全球范围内出货约55万个最新的H100计算卡GPU,其中大部分销往美国科技公司。英伟达不予置评。


      虽然还不清楚所售GPU的精确组合,但每个英伟达H100 80GB HBM2E计算卡GPU(14592个CUDA核心、26 FP64 TFLOPS、1513 FP16 TFLOPS)在美国的零售价约为3万美元。然而,这还不是该公司性能最高的基于Hopper架构的产品,相反是目前为止最便宜的一款。与此同时,在中国,一张此类卡的售价高达7万美元。


      英伟达顶级H100产品包括H100 SXM 80GB HBM3(16896个CUDA核心、34 FP64 TFLOPS、1979 FP16 TFLOPS)和H100 NVL 188GB HBM3双卡解决方案。这些零件要么直接出售给富士康和广达等服务器制造商,要么在英伟达直接销售的服务器内部供应。此外,英伟达即将开始发售GH200 Grace Hopper平台,该平台由72核Grace处理器和H100 80GB HBM3E计算卡GPU组成。


       英伟达没有公布H100 SXM、H100 NVL和GH200 Grace Hopper产品的价格,因为它们取决于英伟达与特定客户之间的数量和业务关系。与此同时,即使英伟达每款基于H100的产品售价3万美元,仅在最新一代计算卡GPU上,今年的销售额仍将达到165亿美元。但该公司不仅仅销售H100系列计算卡GPU。


       有些公司仍在使用英伟达的上一代A100计算卡GPU来增强现有部署,而无需对其软件和硬件进行任何更改。还有中国专用的A800和H800型号。


       虽然无法准确估计英伟达计算卡GPU销售收入的去向,也无法准确估计该公司今年将销售的计算卡GPU数量,但可以做出一些猜测。英伟达的数据中心业务在2024财年第一季度(截至4月30日)创造了42.84亿美元收入。鉴于持续不断的人工智能热潮,英伟达计算卡GPU的销量在2024财年第二季度(截至7月底)似乎更高。换句话说,英伟达数据中心部门将打破全年业绩纪录。


      值得注意的是,英伟达的合作伙伴台积电目前几乎无法满足计算卡GPU的需求,因为它们都使用CoWoS封装,而代工厂正在努力提高这种芯片封装方法的产能。由于许多公司希望购买数以万计的计算卡GPU用于人工智能,因此供应在相当长的一段时间内不太可能满足需求。


来源:集微网