英伟达AI芯片最大买家曝光一年囤了近50万颗GPU

时间: 2024-12-22 12:20:48 |   作者: 贝博官网

详情


  

英伟达AI芯片最大买家曝光一年囤了近50万颗GPU

  微软购买了48.5万颗英伟达GPU芯片,使其在打造下一代人工智能比赛中占有优势。

  02Meta购买了22.4万颗英伟达GPU芯片,而亚马逊和谷歌别离购买了约19.6万颗与16.9万颗。

  05估量2024年全球科学技术公司将在服务器上投入约2290亿美元,其间微软开销310亿美元。

  12月18日,据英国《金融时报》报导,OpenAI的最大出资者微软,购买了其主要竞赛对手Meta两倍数量的英伟达GPU芯片,达48.5万颗。

  商场调查研讨机构Omdia最新数据标明,微软本年购入了48.5万颗英伟达的“Hopper”芯片,这使得微软的芯片储藏在打造下一代人工智能(AI)的比赛中占有了优势。英伟达在美国的第二大客户Meta只是购买了22.4万颗“Hopper”芯片,而微软也相同领先于其在云核算范畴的对手亚马逊和谷歌,据猜测,它们别离购买了约19.6万颗与16.9万颗“Hopper”芯片。

  这两年来,科技巨子现已在数据中心上投入了数百亿美元用于运转英伟达的最新芯片。自微软出资130亿美元(约合人民币949亿)的OpenAI推出ChatGPT以来,各个科技巨子包含并不限于谷歌、Anthropic、xAI、字节、腾讯等,都在出资以抢夺下一代人工智能的主导地位。

  微软是美国大型科技公司中在建造数据中心基础设施方面最为活跃的公司之一,其数据中心基础设施不只用于运转自己的Copilot等AI服务,还经过Azure云核算向客户租借算力,现在Azure被用于练习OpenAI最新的o1模型。

  Omdia估量,字节跳动和腾讯本年别离订货了约23万片英伟达的芯片,包含“Hopper”的低功率版别H20。尽管有着出口约束,字节跳动和腾讯依然成为了英伟达本年最大客户之二。

  据Omdia猜测,2024年全球科学技术公司将在服务器上投入约2290亿美元(约合人民币1.67万亿),其间微软开销310亿美元(约合2262亿人民币),亚马逊开销260亿美元(约合人民币1897亿)。现在,包含草创企业xAI和英伟达支撑的CoreWeave在内的前10大数据中心基础设施买家,占全球核算才能出资总额的60%。

  Omdia的云和数据中心研讨主管Vlad Galabov表明“英伟达GPU占有了适当高的商场占有率。”2024年,服务器的开销中约有43%流向了英伟达。

  自人工智能出资热潮以来,英伟达最先进的GPU一向求过于供,这些芯片已成为硅谷最抢手的产品。本年,大型科技公司争相拼装渐渐的变多的英伟达GPU集群。现在,英伟达的新一代Backwell架构GPU现已也开端交给。尽管由于外因,气势现已有所减缓,英伟达的市值仍是飙升至逾3万亿美元。

  不过,分析师称,Meta、亚马逊和谷歌正在加大对自有定制AI芯片的投入来代替英伟达的芯片。谷歌现已花了十年时刻开发TPU,而Meta上一年推出了第一代Meta Training和Inference Accelerator芯片。两家公司各自布置了约150万片自家芯片。亚马逊本年在为云核算客户出资开发Trainium和Inferentia芯片,并布置了约130万片。本月,该公司表明方案运用数十万片其最新款Trainium芯片,为OpenAI竞赛对手Anthropic树立一个新的集群,以练习下一代人工智能模型。

  相比之下,尽管微软(Microsoft)在打造与英伟达(Nvidia)竞赛的人工智能加速器方面要早得多,但在本年仅安装了约20万颗微软定制的Maia芯片。微软Azure全球基础设施高档总监Alistair Speirs称,运用英伟达的芯片依然需求微软在自己的技术上进行很多出资,以向客户供给“共同”的服务。

  2024年,微软对英伟达芯片订单数量是其在2023年的三倍多,尽管其时英伟达现已为了应对ChatGPT的爆红在赶紧出产“Hopper”芯片。

  “杰出的数据中心基础设施是很杂乱的、资本密集型的项目,”Speirs称,“它们需求数年的规划。因而,对咱们的增加进行适度的猜测并预留必定的缓冲区是很重要的。”

  尽管英伟达仍主导着AI芯片商场,但其坐落硅谷的竞赛对手AMD现已取得了发展。Omdia称,本年Meta购买了17.3万颗AMD的MI300芯片,而微软购买了9.6万颗。