黄仁勋发布了全新AI芯片、数字孪生、云技术和可持续计算领域的下一波热潮

黄仁勋发布了全新AI芯片、数字孪生、云技术和可持续计算领域的下一波热潮

英伟达CEO黄仁勋发表“见证AI的变革时刻”的主题演讲,发布了全新AI芯片架构Blackwell,基于该架构的首款GPU产品B200。

基于此,英伟达提供了GB200、DGX GB200 NVL 72、DGX SuperPOD超算平台等“组合产品”。

硬件产品之外,英伟达还发布了创造营收的新产品——集成AI开发软件微服务系统NIM,用以帮助企业快捷部署公司级专有模型。

此外,英伟达还推出了GR00T人型机器人项目——人型机器人基础模型,支持通过语言、视频和人类演示,为人形机器人生成行动指令。

值得一提的是,在回顾完英伟达发展历史,正式发布新产品之前,黄仁勋通过一个短片向外界展示了“英伟达的灵魂”,该片是“世界上第一场一切都是(AI)自制的音乐会”。

“God,I love NVIDIA !”观看完毕,黄仁勋忍不住赞叹。

黄仁勋如此激动兴奋,在于大模型时代,英伟达自身“卖铲人”的定位,使得该公司2024财年营收609.22亿美元,同比增长126%,净利润297.60亿美元,同比增长581%。而这,更是助推其股价在一年来翻了近两倍。

作为英伟达GTC大会的重磅环节,黄仁勋宣布推出新一代GPU Blackwell(致敬统计学家兼数学家大卫·哈罗德·布莱克威尔),“Hopper(致敬格蕾丝·赫柏)固然已经非常出色了,但我们需要更强大的GPU”。

黄仁勋表示,8年时间,AI算力已增长1000倍。他认为,“加速计算到达了临界点,通用计算已经过时了。我们需要另一种方式来进行计算,这样我们才能够继续扩展,这样我们才能够继续降低计算成本,这样我们才能够继续进行越来越多的计算。”

据黄仁勋介绍,许多组织预计将采用Blackwell,如亚马逊网络服务、戴尔、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉、XAI。

在Blackwell的支撑下,黄仁勋再次为英伟达升级了“核武库”。

当下4 nm制程工艺仍处于瓶颈期,于是英伟达将两个芯片拼接,通过10 TB/秒的带宽互联,组合而成包含2080亿晶体管的B200 GPU,将于今年晚些时候上市。单GPU AI性能达20 PFLOPS(即每秒2万万亿次),前代H100仅为4 PFLOPS。B200的内存192 GB,基于第五代NVLink,带宽达到8 TB/s。

黄仁勋展示两款GPU,左为新款Blackwell架构B200芯片

通过搭积木的方式,英伟达还提供了超级芯片GB200,包含1个Grace CPU+2个B200 GPU,通过900 GB/s的超低功耗NVLink芯片间互连技术连接在一起。而两个GB200装到主板上,就成为了一个Blackwell计算节点。

将18个Blackwell计算节点叠加,则诞生了英伟达“新一代计算单元”DGX GB200 NVL 72,包含36个CPU+72个GPU。它们之间由NVIDIA Quantum-X800 InfiniBand和Spectrum™-X800以太网平台连接,可提供速度高达800Gb/s的网络。

单独使用的DGX GB200 NVL 72,其FP8精度的AI训练性能高达720 PFLOPs,拥有1.4 EFlops的AI推理算力和30 TB高速内存。与相同数量的72个H100相比,大模型推理性能提升30倍,成本和能耗降低25倍。

将8个上述“新一代计算单元”Quantum InfiniBand交换机连接,配合散热系统,则形成了DGX SuperPOD超算平台,包含8个“新一代计算单元”,即288个CPU+576个GPU,内存高达240 TB,FP4精度计算性能达到11.5 EFLOPs(每秒11.5百亿亿次)。

此外,英伟达的超算平台,还支持增加额外的机架扩展性能,最终成为包含32000 GPU的分布式超算集群。

黄仁勋难掩兴奋,“英伟达DGX AI超级计算机,就是AI工业革命的工厂”。

本文来自:氧气说,不代表爱氧气立场,平台仅提供信息存储空间服务。

本网站属于非赢利性网站,如对本稿件有异议或投诉,请联系(iyangqi@qq.com)爱氧气处理。

(3)
上一篇 2024年3月20日 上午11:54
下一篇 2024年3月23日 上午9:55

相关推荐

联系我们

联系我们

在线咨询: QQ交谈

邮件:iyangqi#qq.com

工作时间:周一至周五,9:30-17:30,节假日休息

分享本页
返回顶部