手机浏览
更方便
环球有多少AI算力?算力增进速率有多速?正在这场AI「淘金热」中,都有哪些新「铲子」?AI首创企业Epoch AI公布了最新环球硬件估算通知。
除了GPU,硬件类型也充分了起来。好比,涌现了特意管理张量估计企图的TPU(张量管理单位,Tensor Processing Unit)。
以16位浮点运算权衡,机械进修硬件的本能以每年43%的速率增进,每1.9年翻一番。32位本能也存正在相似的趋向。
驱动要素还囊括晶体管数目标填补和其他半导体修设手艺的前进,以及针对AI管事负载的特意策画。这种革新下降了每FLOP的本钱,普及了能源效果,并竣工了大周围人为智能操练。
每美元本能擢升急忙,而且任何给定精度和固定本能程度的硬件每年都市低廉30%。与此同时,修设商连续推出更重大、更高贵的硬件。
与利用非张量FP32比拟,TF32、张量FP16和张量INT8正在总体本能趋向中均匀供给约6倍、10倍和12倍的本能擢升。
自推出往后,这些革新约占团体本能趋向革新的一半。跟着开采职员诈骗这种本能擢升,利用较低精度体例(越发是张量FP16)操练的模子仍旧变得很常见。
正在Epoch的数据会合,NVIDIA A100是用于高援用或最进步人为智能模子的最常用的硬件,自觉布往后已用于65个有名ML模子。
其次是NVIDIA V100,用于操练55个有名模子,其次是谷歌的TPU v3,用于47个。
然而,猜度NVIDIA H100到2023岁终的销量已领先A100,于是它可以正在不久的未来成为操练模子最受接待的GPU。
这些估计企图资源既用于他们内部的AI开采,也用于云客户,囊括很多顶级AI测验室,如OpenAI和Anthropic。
巨额的AI估计企图才智由这四家公司以表的集团协同具有,囊括其他云公司如Oracle和CoreWeave,估计企图用户如特斯拉和xAI,以及各国当局。
之是以要点先容谷歌、微软、Meta和亚马逊,由于他们可以具有最多的估计企图才智,而其他公司的数据公然较少。
自2019年往后,NVIDIA芯片的总可用估计企图才智约莫每年增进2.3倍,从而不妨操练越来越大的模子。
Hopper这一代NVIDIA AI芯片目前占其全豹AI硬件总共算才智的77%。根据这种增进速率,旧的芯片型号正在其推出后约莫4年把握,对累计估计企图量的功绩往往会低于一半。
请提神,此领会不囊括TPU或其他专用AI加快器,由于这方面的数据较少。TPU可以供给与NVIDIA芯片相当的总共算才智。
提神:这些猜度基于NVIDIA的收入申报文献,并假设差异期间芯片的散布随时光变动的形式与AI集群数据会合的形式沟通。
但仅探究数据核心出售额,而轻视NVIDIA收入通知中「游戏」(Gaming)出售额带来的估计企图才智。