稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了(xmrcpu算力)

AIGC动态欢迎阅读

原标题:稀疏算力暴涨591%!Meta推出5nm AI训练芯片

,自研AI芯片盛世来了

关键字:芯片,模型,系统,加速器,带宽

文章来源:智东西

内容字数:6861字

内容摘要:

最大功耗90W,INT8稀疏计算性能达到708TFLOPS。

作者|ZeR0

编辑|漠影

智东西4月11日报道,美国AI三巨头不仅在大模型赛道争奇斗艳,还纷纷卷起自研AI芯片。昨天“AI界汪峰”谷歌刚推出新款云端定制芯片,今天Meta就将硅谷注意力吸引走,重磅宣布推出第二代自研AI训练和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用台积电7nm芯片。MTIA v2则换上了台积电5nm,每PE缓存从上一代的128KB增加到384KB,频率从800MHz提升到1.35GHz,INT8精度下的稠密算力达到上一代的近3.5倍,稀疏算力达到上一代的近7倍,达到708TFLOPS。

有意思的是,MTIA v2的面积仅变大13%,不过功耗增加到上一代的3.6倍,达到90W,上一代只有25W。

相比之下,英伟达H100 PCIe的最大功耗约在350~500W区间(SXM版高达700W),INT8精度下稀疏算力为3026TFLOPS。

在平台层,通过2倍的设备数量和2插槽CPU,MTIA v2能够实现6倍的模型服务吞吐量、比第一代MTIA系统提高多达1.5倍的每瓦性能。

与MTI

原文链接:稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了

联系作者

文章来源:智东西

作者微信:zhidxcom

作者简介:智能产业新媒体!智东西专注报道人工智能主导的前沿技术发展,和技术应用带来的千行百业产业升级。聚焦智能变革,服务产业升级。

0
分享到:
没有账号? 忘记密码?