首页 资讯 财经 公益 彩店 奇闻 速递 体育 提点 资讯 综合 企业 市场

首页
你现在的位置:

全球讯息:英伟达黄仁勋:我们已到达生成式AI的引爆点

2023-05-30 02:10:34    来源:DoNews    作者:


【资料图】

DoNews5月29日消息,在台北电脑展COMPUTEX 2023上,黄仁勋做了展前主题演讲,并发布了包括超级GPU GH200在内的一系列与AI相关产品。

包括大内存生成式AI超级计算机DGX GH200;Grace Hopper超级芯片GH200;加速以太网平台Spectrum-X;为游戏提供定制化AI模型代工服务;与全球最大的营销服务机构WPP合作打造生成式AI内容引擎等。

英伟达还发布了MGX服务器规范,为系统制造商提供快速高效构建100多种服务器配置的模块化参考架构。黄仁勋说,有超过1600家生成式AI公司采用了英伟达技术。

在演讲中,黄仁勋宣布,人类已经到达了生成式AI的引爆点。从此,全世界的每个角落,都会有计算需求。

黄仁勋透露,英伟达最新GPU GH200 Grace Hopper超级芯片已全面投产,将为运行复杂的AI和高性能计算工作负载提供动力。

GH200 Grace Hopper超级芯片采用NVIDIA NVLink-C2C互连技术,将基于Arm的英伟达Grace CPU和Hopper GPU架构组合在同一封装中,提供了高达900GB/s的总带宽——比传统加速系统中的标准PCIe Gen5通道带宽高7倍,互连功耗降低到原来的1/5,能够满足苛刻的生成式AI和高性能计算(HPC)应用。

黄仁勋称,DGX GH200是首款将Grace Hopper超级芯片与英伟达NVLink Switch系统搭配的超级计算机,通过采用新互连方式,将256个Grace Hopper超级芯片连接在一起,使它们能像单个巨型GPU一样协同运行,从而提供了1EFLOPS的性能和144TB的共享内存,比2020年推出的上一代DGX A100 320GB系统的内存多出近500倍。

谷歌云、Meta、微软等是首批获得DGX GH200访问权限、用于生成式AI工作负载的公司。英伟达也打算将DGX GH200设计蓝图提供给云服务商及其他超大规模计算厂商,以便他们可以进一步为其基础设施定制DGX GH200。

此外,英伟达正在打造自己的基于DGX GH200的大型AI超级计算机NVIDIA Helios,以支持其研究和开发团队的工作。

它采用4个DGX GH200系统,每个都将与英伟达Quantum-2 InfiniBand网络连接,带宽高达400Gb/s,以提高训练大型AI模型的数据吞吐量。Helios将包括1024颗Grace Hopper超级芯片,将于年底上线。

编辑:qysb005

标签:

中国企业新闻网版权与免责声明:
1、中国企业新闻网所有内容的版权均属于作者或页面内声明的版权人。未经中国企业新闻网的书面许可, 任何其他个人或组织均不得以任何形式将河南企业网的各项资源转载、复制、编辑或发布使用于其他任何场合;不得把其中任何形式的资讯散发给其他方, 不可把这些信息在其他的服务器或文档中作镜像复制或保存;不得修改或再使用中国企业新闻网的任何资源。若有意转载本站信息资料, 必需取得中国企业新闻网书面授权。否则将追究其法律责任。
2、已经本网授权使用作品的,应在授权范围内使用,并注明“来源:中国企业新闻网”。违反上述声明者,本网将追究其相关法律责任。
3、凡本网注明“来源:XXX(非中国企业新闻网)”的作品,均转载自其它媒体,转载目的在于传递更多信息, 并不代表本网赞同其观点和对其真实性负责。本网转载其他媒体之稿件,意在为公众提供免费服务。如稿件版权单位或个人不想在本网发布, 可与本网联系,本网视情况可立即将其撤除。
图片欣赏
频道推荐
内容推荐
最近更新