周一,英伟达(NVDA.US)首席执行官黄仁勋在2023年台北电脑展上公布了一批与人工智能(AI)和加速计算有关的多项产品及服务的进展。以下为具体信息。
1、大内存AI超级计算机DGX GH200
黄仁勋介绍称,AI超级计算机DGX
GH200集成了英伟达最先进的加速计算和网络技术,旨在为生成式AI语言应用、推荐系统、数据分析工作负载开发大型下一代模型,预计今年年底问世。
黄仁勋表示,DGX GH200是首款将GH200 Grace Hopper超级芯片与英伟达NVLink
Switch系统搭配的超级计算机,通过采用新互连方式,将256个Grace
Hopper超级芯片连接在一起,使它们能像单个巨型GPU一样协同运行,从而提供了1EFLOPS的性能和144TB的共享内存,较2020年推出的上一代DGX
A100 320GB系统的内存多出近500倍。
黄仁勋称,谷歌(GOOG.US)、Meta(META.US)、微软(MSFT.US)等科技巨头是首批获得DGX
GH200访问权限、用于生成式AI工作负载的公司。此外,英伟达还打算将DGX
GH200设计蓝图提供给云服务商及其他超大规模计算厂商,以便他们可以进一步为其基础设施定制DGX GH200。
2、GH200 Grace Hopper超级芯片已全面投产
黄仁勋指出,英伟达的GH200 Grace
Hopper超级芯片已全面投产,将为运行复杂的AI和高性能计算工作负载提供动力。基于GH200的系统加入了全球系统制造商基于英伟达最新Grace、Hopper、Ada
Lovelace架构的400多个系统配置。位于欧美的几家全球超大规模计算企业和超算中心客户将可使用GH200驱动的系统。采用GH200的系统预计将于今年晚些时候上市。
3、大型AI超级计算机NVIDIA Helios
黄仁勋表示,英伟达正在打造自己的基于DGX GH200的大型AI超级计算机NVIDIA
Helios,以支持其研究和开发团队的工作。Helios采用4个DGX GH200系统,每个都将与英伟达Quantum-2
InfiniBand网络连接,带宽高达400Gb/s,以提高训练大型AI模型的数据吞吐量。Helios将包括1024颗Grace
Hopper超级芯片,将于今年年底上线。
4、NVIDIA Avatar云引擎(ACE)
黄仁勋宣布,推出面向游戏的NVIDIA
Avatar云引擎(ACE)。这是一项定制AI模型代工服务,中间件、工具和游戏开发者可以使用它来构建和部署定制的语音、对话和动画AI模型。它能赋予非玩家角色(NPC)更智能且不断进化的对话技能,使其能够以栩栩如生的个性来回答玩家的问题。
5、NVIDIA MGX服务器规范
为了满足各种规模的数据中心的需求,黄仁勋发布了NVIDIA
MGX服务器规范,为系统制造商提供了模块化参考架构。系统制造商可使用它快速且经济高效地构建100多种服务器配置,以适应广泛的AI、HPC及NVIDIA
Omniverse应用。MGX支持英伟达全系列GPU、CPU、DPU和网络适配器,以及各种x86及Arm处理器。其模块化设计使系统制造商能够更有效地满足每个客户的独特预算、电力输送、热设计和机械要求。
永擎(ASRock
Rack)、华硕(ASUS)、技嘉(GIGABYTE)、和硕(Pegatron)、QCT、超微(Supermicro)等将采用MGX构建下一代加速计算机,可将开发成本削减多达3/4,并将开发时间缩短2/3至仅需6个月。
6、与软银合作建立分布式数据中心网络
黄仁勋还宣布,英伟达与日本电信巨头软银合作,在日本建立一个分布式数据中心网络。它将在一个共同的云平台上提供5G服务和生成式AI应用。数据中心将在模块化MGX系统中使用Grace
Hopper、BlueField-3
DPU以及Spectrum以太网交换机,以提供5G协议所需的高精度定时。该平台将通过提高频谱效率来降低成本,同时降低能耗。这些系统有助于探索自动驾驶、AI工厂、AR/VR、计算机视觉和数字孪生等领域的应用。未来的用途可能包括3D视频会议和全息通信。
7、联手WPP打造生成式AI内容引擎
黄仁勋宣布,全球最大的营销服务机构英国WPP集团正在与英伟达合作,在Omniverse
Cloud上构建首个生成式AI内容引擎,使创意团队能够更快、更高效、更大规模地制作高质量的商业内容,同时与客户的品牌保持完全一致。基于NVIDIA
AI和Omniverse的突破性引擎将来自领先软件制造商的创意3D和AI工具连接在一起,以大规模革新品牌内容和体验。
WPP首席执行官Mark
Read表示,生成式AI正以惊人的速度改变营销世界,WPP与英伟达合作所提供的独特竞争优势是当今市场上其他客户无法获得的,这项新技术将改变品牌为商业用途创建内容的方式,并巩固WPP在为世界顶级品牌创造性应用AI方面的行业领导者地位。
8、新型加速以太网平台NVIDIA Spectrum-X
黄仁勋还宣布推出NVIDIA
Spectrum-X,这是一个旨在提高基于以太网的AI云的性能和效率的网络平台。它基于网络创新,将英伟达Spectrum-4以太网交换机与英伟达BlueField-3
DPU紧密耦合,实现了相比传统以太网结构1.7倍的整体AI性能和能效提升,并通过性能隔离增强了多租户功能,在多租户环境中保持一致、可预测的性能。
全球领先的云计算提供商正在采用Spectrum-X平台扩展生成式AI服务。Spectrum-X、Spectrum-4交换机、BlueField-3
DPU等现已在戴尔、联想、超微等系统制造商处提供。