5月29日,中国台湾一年一度的COMPUTEX正式举办,NVIDIA CEO黄仁勋刚刚结束在台大的毕业演讲(《黄仁勋台大演讲精华:无论如何,都要坚持奔跑(附全文)》),又在此次开幕前夕发表了两个多小时的演讲。这次,黄仁勋主要介绍了“算力杀器”DGX GH200、企业级AI超级计算机以及NVIDIA在多个领域的生成式AI布局。
DGX GH200
DGX GH200是一款大内存AI超级计算机,可用于支持生成式AI、数据处理的巨型模型。同时它也是第一款将Grace Hopper超级芯片与NVLink Switch System配对使用的超级计算机,这种新的互连方式能够使其系统中的所有GPU作为一个整体协同运行。
DGX GH200被业界评价为“算力杀器”,它搭载了256个Grace Hopper超级芯片,新的互联方式让机器像一个巨型GPU运行,提供1EFLOPS的性能和144TB的共享内存,这比上一代DGX A100的内存多出近500倍。
黄仁勋称DGX GH200是“集成了英伟达最先进的加速计算和网络技术。”
谷歌云、Meta及微软等公司将有望成为首批获得DGX GH200访问权限的公司,未来也将向更多客户开放。与此同时,英伟达也计划打造基于4组GH200、576TB HBM内存的AI超算系统NVIDIA Helios,预计将于今年年底上线。
AI超级计算机:Nvidia Helios
基于DGX GH200,NVIDIA计划打造AI超级计算机“Nvidia Helios”,这款超级计算机将配备四个DGX GH200系统,也就是多达1024块NVIDIA GH200 Grace Hopper 超级芯片,可满足训练大型AI模型的需求。而每块Grace Hopper 超级芯片则包括一块NVIDIA Grace CPU 与一块NVIDIA H100 Tensor Core GPU。Nvidia Helios预计将于今年年底上线。
AI 新研究工具
“构建先进的生成模型需要创新的人工智能基础设施方法,”谷歌云计算副总裁 Mark Lohmeyer 说。“Grace Hopper Superchips 的新 NVLink 规模和共享内存解决了大规模 AI 中的关键瓶颈,我们期待探索其在 Google Cloud 和我们的生成 AI 计划中的功能。”
“随着 AI 模型变得越来越大,它们需要强大的基础设施来扩展以满足不断增长的需求,”Meta 的基础设施、AI 系统和加速平台副总裁 Alexis Björlin 说。“NVIDIA 的 Grace Hopper 设计旨在为研究人员提供探索新方法来解决他们最大挑战的能力。”
“传统上,训练大型人工智能模型是一项资源和时间密集型任务,”微软 Azure 基础设施公司副总裁 Girish Bablani 说。“DGX GH200 处理 TB 级数据集的潜力将使开发人员能够以更大规模和更快的速度进行高级研究。”
其他领域的生成式AI布局
生成式AI成为现在和未来的热点,NVIDIA作为芯片厂商,在多个领域进行布局。
在游戏领域,NVIDIA将为游戏提供定制化AI模型代工服务Avatar Cloud Engine (ACE)。它适用于云端和PC上的AI模型开发,开发者可运用这项服务,搭建和部署定制化的语音、对话和动画AI模型。
在广告领域,NVIDIA在2023 Computex上宣布了与多家企业的创新合作。全球最大的营销服务机构WPP正与NVIDIA一起在Omniverse Cloud上构建首个生成式AI内容引擎——创作团队将3D设计工具如Adobe Substance 3D等连接起来,并在NVIDIA Omniverse中构建客户产品的数字孪生,然后凭借在来源可信的数据上训练并使用NVIDIA Picasso构建的生成式AI工具所提供的内容,快速制作出虚拟场景。WPP客户可以使用制作完毕的场景生成大量广告、视频和3D体验,供全球市场和用户在任何网络设备上使用。
黄仁勋介绍,“全世界的各行各业都在竞相挖掘AI的优势,包括具有7000亿美元价值的数字广告业。WPP正在通过Omniverse Cloud和生成式AI工具,让客户能够以前所未有的逼真度和规模来改进产品体验。”
多家电子制造商正利用NVIDIA技术打造数字化流程,实现全数字化智能工厂的愿景。和硕正在使用Omniverse、Isaac Sim和Metropolis创建虚拟工厂,该公司能够在虚拟工厂中的模拟环境测试各种流程,从而节省了时间和成本。
小结
“科技行业的传统架构已经无法满足过于复杂的计算任务,”黄仁勋说道,为了充分发挥AI的潜力,客户越来越多地转向加速计算和GPU(图形处理单元),“我们已经到达了新的计算时代的转折点。”
就在不久前的台大毕业演讲中,黄仁勋也强调:AI无疑会改变每一份工作,拥抱科技是获得成功的关键,每个公司、每个人都必须学会利用AI的优势,在AI的帮助下取得惊人成就。
文章来自:https://www.eet-china.com/