老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代(老核桃视频)

AIGC动态欢迎阅读

原标题:老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型

,AI迎新摩尔时代

关键字:模型,芯片,参数,性能,人工智能

文章来源:新智元

内容字数:8203字

内容摘要:

新智元报道编辑:编辑部

【新智元导读】就在刚刚,老黄又来打破摩尔定律了:英伟达新核弹B200,一块能顶5个H100,30倍推理加速,能训万亿参数大模型!同时推出的AI推理微服务NIM,号称让全世界用上AI。就在刚刚结束的GTC人工智能大会上,英伟达的新一代性能巨兽Backwell诞生了!

Blackwell B200 GPU,是如今世界上最强大的AI芯片,旨在「普惠万亿参数的AI」。

本来,H100已经使英伟达成为价值数万亿美元的公司,赶超了谷歌和亚马逊,但现在,凭着Blackwell B200和GB200,英伟达的领先优势还要继续领先。

老黄表示——「H100很好,但我们需要更大的GPU」!

新的B200 GPU,从2080亿个晶体管中能提供高达20 petaflops的FP4性能。(H100仅为4 petaflops)

而将两个B200与单个Grace CPU相结合的GB200,则可以为LLM推理工作负载提供30倍的性能,同时大大提高效率。

比起H100,GB200的成本和能耗降低了25倍!

Blackwell芯片和Hopper H100芯片的尺寸比较

这种额外的处理能力,就能让

原文链接:老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代

联系作者

文章来源:新智元

作者微信:AI_era

作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。

0
分享到:
没有账号? 忘记密码?