Meta发布新一代AI芯片MTIA,性能显著提升(mateview 芯片)

AIGC动态欢迎阅读

原标题:Meta发布新一代AI芯片MTIA,性能

显著提升

关键字:芯片,性能,模型,方面,堆栈

文章来源:AI范儿

内容字数:1864字

内容摘要:

点击上方蓝字关注我们“Meta公布新一代AI芯片MTIA,性能较前代显著提高。Meta近日公布了其Meta训练和推理加速器(MTIA)的下一代产品的细节。该芯片是专为优化公司AI工作负载而设计的定制芯片系列,最新版本在性能方面较其前身MTIA v1有了显著改进,并在为Meta的广告排名和推荐模型提供动力方面发挥着重要作用。

新的MTIA芯片是Meta在AI基础设施方面不断增长的投资的一部分。随着AI模型的计算需求随着其复杂性的增加而增加,Meta认识到开发高效且可扩展解决方案的重要性,以支持生成式AI产品、推荐系统和先进AI研究。

在技术层面上,新的MTIA芯片具有一个由8×8处理元素(PE)组成的网格,这在密集计算性能和稀疏计算性能方面提供了显著的提升。该芯片的架构专注于实现计算、内存带宽和内存容量的最佳平衡,以高效地服务于排名和推荐模型。

Meta还开发了一个大型机架式系统,可以容纳多达72个加速器,以支持下一代硅。该系统设计为将芯片时钟频率提高到1.35GHz,并在90瓦特下运行,确保比第一代设计具有更高的计算、内存带宽和内存容量的更密集功能。

自其对MTIA的投资开始以来,软件

原文链接:Meta发布新一代AI芯片MTIA,性能显著提升

联系作者

文章来源:AI范儿

作者微信:AI_Insights

作者简介:AI领域四大媒体之一。 智能未来,始于Prompt!

0
分享到:
没有账号? 忘记密码?