在其年度会议GTC上，Nvidia推出很多AI软件，而作为补充，Nvidia还推出一系列新硬件，旨在帮助用户和开发人员为其下一代软件和服务提供动力。

Nvidia展示了其新的Hopper GPU架构，以及使用这个新架构构建的新H100 Tensor Core GPU。

该公司还展示了NVLink高速互连的新版本-Nvidia最初于2014年推出。新版本将连接该公司未来的所有芯片，包括CPU、GPU、数据处理单元和片上系统（SOC）产品。

通过Nvidia的Omniverse实时3D平台的虚拟环境，Nvidia首席执行官Jensen Huang发表主题演讲时表示，“随着AI在各个方面快速发展”，他计划用Earth-2来应对挑战，他将其宣传为业界第一台数字孪生超级计算机。

去年11月，Nvidia宣布计划建造Earth-2，该公司称这将是专用于预测气候变化的最强大人工智能超级计算机。该系统将在Omniverse中创建数字孪生地球。

Nvidia还推出Grace CPU Superchip，这是该公司针对高性能计算市场推出的首款CPU。 Huang说，该产品由两个通过900 GBps NVLink连接的CPU组成，创建一个144核处理器，内存带宽为每秒1 TB。

Futurum Research首席分析师兼Broadsuite Media Group首席执行官Dan Newman表示：“Nvidia一直致力于加速数据和工作负载，并且凭借这种水平的动力，他们正在调整他们的系统以适应下一代应用程序。他们也意识到很难保持领先地位，他们面临的竞争压力是不断提供硬件改进。”

Huang说，Nvidia H100的性能是其前代产品的9倍，是该公司通过GPU实现的最大性能提升。据该公司称，当与新的NVLink交换机配合使用时，新产品可以连接多达32个DGX服务器，将其变成一个每秒可以执行1 quintillion浮点运算的1 exaflop系统。

Gartner副总裁兼分析师Chirag Dekate表示：“那些寻求构建深度学习培训基础架构堆栈的企业，可能会看到利用最新一代产品获取更大价值的潜力。”

H100拥有800亿个晶体管，采用台积电的4纳米制造工艺。该芯片专为纵向扩展和横向扩展架构而设计。该公司表示，一个H100芯片可以维持每秒40 TB的I/O带宽。Dekate补充说，开发者和用户应该考虑如何支持更强大的硬件。

他指出：“数据中心设计人员和用户在试图利用这些最新技术时，也应该规划和调整他们的设施，以适应这些过程可能需要的更大功率。”

Huang在主题演讲中表示，H100是第一款能够进行机密计算的GPU。到目前为止，只有基于CPU的系统才能支持该技术。

他表示：“H100克保护所有者的人工智能模型和算法的机密性和完整性，软件开发人员现在可以在远程基础设施上分发和部署他们的专有AI模型，保护他们的知识产权并扩展他们的商业模式。”

H100现在正在生产中，预计将在第三季度的某个时候上市。

Nvidia还推出了其DGX H100 AI计算机。当与NVLink连接到其他系统时，它可以转变为具有6400亿晶体管的单个GPU，并执行32 petaflops的AI性能，以及640 GB的高带宽内存。

Huang还展示了另一个系统，即Nvidia Eos，他声称它是世界上最快的人工智能超级计算机，预计将在几个月内推出。该系统目前在Hopper AI工厂建造，将配备576个DGX H100系统和4,608个 DGX GPU，并能够提供18.4 exaflops的AI性能，这比现在被认为是最快的系统的日本Fugaku超级计算机还要快。该公司表示，Eos系统将作为Nvidia及其合作伙伴的先进人工智能基础设施的蓝图。

由于该系统使用了量子计算的元素，它可以提供裸机级的性能和多租户隔离，确保一个应用程序不会影响任何其他应用程序。

Huang称：“多租户能力对我们来说至关重要，因为即使是我们自己的Eos计算机也将被我们的AI研究团队以及很多其他团队使用，包括致力于自动驾驶汽车平台和对话AI软件的工程师。”

在新系统硬件中，最后推出的是Orin，Orin是一种集中式AV和AI计算机，可作为电动汽车、机器人出租车和卡车的引擎，本月早些时候开始发货。

他还展示了Hyperion 9，它将采用Nvidia的Drive Atlan SoC进行自动驾驶。预计到2026年才会开始生产。