Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看

NVIDIA 在 GTC 2024 期间展示全新 Blackwell 架构

丹尼尔库蒂尼奥头像
新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还讨论了 Omniverse Cloud 等。查看

本周一,即 18 日, NVIDIA公司 进行了期待已久的演讲 GTC 2024 (GPU技术大会),被该公司誉为“面向开发者的领先人工智能会议”。这项年度盛会是专家、研究人员、开发人员和爱好者的聚会场所,所有人齐聚一堂,探讨和讨论高性能计算、人工智能、机器学习、游戏和其他广泛领域的最新趋势和创新。

在今年的活动中,该公司展示了其最新的架构, 布莱克威尔,致力于人工智能的进步。此外,他还展示了他的新型超级计算机 DGX超级POD, 新闻关于 全方位云,以及其他很棒的广告。查看下面的公告 NVIDIA公司 na GTC 2024.

NVIDIA 的全新 Blackwell 架构

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
新的 NVIDIA Blackwell 平台有望进一步革新 AI 市场。 (图片来源:NVIDIA)

O 布莱克威尔 是创新的新 GPU 架构 NVIDIA公司 这有望定义计算和生成人工智能(AI)的新时代。凭借技术市场的革命性资源, 布莱克威尔 注定会在从数据处理和自动化到量子计算的广泛行业中发挥关键作用。

生成式人工智能是我们这个时代的决定性技术。布莱克威尔是推动这场新工业革命的引擎。与世界上最具活力的公司合作,我们将实现人工智能对每个行业的承诺。

NVIDIA 创始人兼首席执行官黄仁勋。

其参数保证运营成本和能源消耗比其前身降低 25 倍, 布莱克威尔 引入了革命性的新技术,使 LLM 模型中的 AI 训练成为可能(例如 ChatGPT)适用于多达 10 万亿个不同参数的规模,大大提高了解释数据并提供智能答案和解决方案的能力。

首先,该公司本身就被誉为“世界上最强大的芯片”。拥有令人难以置信的 208 亿个晶体管、GPU 布莱克威尔 采用定制的台积电 4NP 工艺生产,为功耗和效率设立了新标准。该架构采用独特的方法,每个 GPU 芯片有两个标线,通过 10 TB/秒的芯片到芯片链路互连,从而形成具有前所未有的处理能力的单一统一 GPU。

由新的扩展支持提供支持 微张紧器 和先进的动态范围管理算法,将使该架构 布莱克威尔 计算能力和模型大小加倍,提供新的浮点人工智能推理能力(浮点数) 4 位。

O NVLink 第五代是另一项关键技术,提供 吞吐量 每个 GPU 创新的双向 1,8 TB/s。这可实现多达 576 个 GPU 之间的高速通信,从而加速具有数万亿参数和专家组合的复杂 AI 模型的性能。

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
Blackwell 架构能够以更少的能耗提供更高的性能。 (图片来源:NVIDIA)

此外, 布莱克韦尔 GPU 包括 RAS引擎 (可靠性、可用性 e 操作性能,英文),配备专用发动机,确保可靠性、可用性和可维护性。该架构还使用基于人工智能的预防性维护来诊断和预测可靠性问题,最大限度地延长系统正常运行时间并降低大规模人工智能部署中的运营成本。

在新架构中,安全性是重中之重 布莱克威尔 将提供先进的机密计算能力。这可以在不影响性能的情况下保护人工智能模型和客户数据,并支持新的本机接口加密协议,这对于医疗保健和金融服务等隐私敏感行业尤其重要。

最后,专用的解压缩引擎可加速数据库查询,以提供数据分析和数据科学的最高性能。考虑到不断增长的数据量以及对快速高效分析的需求,此功能至关重要。

这些新技术共同定位了架构 布莱克威尔 作为未来处理市场中人工智能、高性能计算和数据分析应用的功率、效率和安全性方面无可争议的领导者。

技术衍生产品 布莱克威尔 将于今年晚些时候通过战略合作伙伴关系为市场做好准备。提供技术驱动的云服务的先驱之一 布莱克威尔,巨头脱颖而出 AWS、谷歌云、微软 Azure 和 Oracle 云以及公司云合作伙伴计划的参与者 NVIDIA公司Applied Digital、CoreWeave、Crusoe、IBM Cloud 和 Lambda。此外,人工智能平台,例如 Indosat Ooredoo Hutchinson、Nebius、Nexgen Cloud 和 Oracle EU Sovereign Cloud除其他外,还将使用 布莱克威尔.

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
新的GB200 Grace Blackwell芯片将被用在采用新平台的新DGX SuperPOD中。 (图片来源:NVIDIA)

此外,该 NVIDIA公司 还展示了一种新的超级芯片,该芯片的实现得益于技术 布莱克威尔NVIDIA GB200 格雷斯·布莱克韦尔。这种新芯片连接两个 NVIDIA B200 张量 GPU 核心 à CPU宽限期 da NVIDIA公司 通过超低功耗芯片间互连 NVLink 900GB/秒。该平台充当单个 GPU,具有 1,4 exaflops 的 AI 性能和 30TB 的快速内存,是最新的构建块 DGX超级POD,我们将在下面对此进行评论。

GB200 将成为系统的一部分 NVIDIA GB200 NVL72 适用于更密集的计算工作负载。它结合了36 格蕾丝·布莱克威尔超级芯片,其中包括 72 布莱克韦尔 GPU 和36 格雷斯 CPU 相互连接的 NVLink 第五代,与相同数量的产品相比,有望提供高达 30 倍的性能提升 Tensor Core H100 GPU da NVIDIA公司 适用于 LLM 推理工作负载,并将成本和功耗降低高达 25 倍。

下一代人工智能超级计算机

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
配备 DGX GB200 的新型 DGX SuperPOD 有望进一步推动人工智能发展。 (图片来源:NVIDIA)

在公告中 NVIDIA公司 围绕建筑 布莱克威尔, 这 DGX超级POD,该公司的下一代超级计算机,具有数万亿参数规模的人工智能生成计算能力。由超级芯片提供动力 格蕾丝·布莱克威尔 GB200, 新的 DGX超级POD 是用系统构建的 NVIDIA DGX™ GB200 并提供 11,5 exaflops 的 FP4 精度 AI 超级计算和 240 TB 内存,让您可以通过额外的机架进一步扩展。

O DGX超级POD 由八个或更多系统组成 DGX GB200,具有扩展到数万个的能力 GB200超级芯片 通过技术互联 NVIDIA 量子 InfiniBand。为了创建相当大的共享内存空间并支持下一代AI模型,客户可以实现连接576个GPU的配置 布莱克威尔 存在于八个系统中 DGX GB200 通过 NVLink.

全新 DGX SuperPOD 结合了 NVIDIA 在加速计算、网络和软件方面的最新进展,使每个公司、行业和国家都能完善和生成自己的 AI。

NVIDIA 创始人兼首席执行官黄仁勋。

DGX超级POD 是一款专为数据中心规模而设计的完整 AI 超级计算机,可与 NVIDIA 认证合作伙伴提供的高性能存储无缝集成,以满足生成型 AI 工作负载的需求。每个单元均在工厂组装、连接和测试,从而在客户的数据中心快速高效地部署。

此外,超级计算机还配备了先进的预测管理功能,能够连续监控硬件和软件上的数千个数据点。这使您能够预测并纠正可能的停机和效率低下的原因,从而节省时间、能源和计算成本。

该集成软件能够检测系统中的潜在问题、规划维护、灵活调整计算资源,甚至自动保存和恢复任务以避免任何中断,即使在系统管理员不在场的情况下也是如此。如果发现需要更换组件,集群可以激活其备用容量,以确保正在进行的工作按时完成。

除了新的超级计算机之外, NVIDIA公司 还介绍了 DGX B200,一个统一的人工智能超级计算平台,专为模型训练、微调和推理而设计。它介绍了系统 DGX B200,这是第六代设计 DGX 机架安装。该系统包括八个GPU NVIDIA B200 张量核心 和两个处理器 英特尔至强 第 5 代。

它提供高达 144 petaflops 的 AI 性能、1.4TB GPU 内存和 64TB/s 内存带宽,与上一代产品相比,万亿参数模型的实时推理速度提高了 15 倍。系统 DGX B200 还具有先进的网络功能,包括 NVIDIA ConnectXTM-7 NIC e BlueField-3 DPU,为每个连接提供每秒高达 400 GB 的带宽,确保网络平台的快速 AI 性能 NVIDIA Quantum-2 InfiniBand e NVIDIA SpectrumTM-X 以太网.

O NVIDIA DGX SuperPOD COM DGX GB200 系统 DGX B200 将于 2024 年向全球合作伙伴提供 NVIDIA公司.

X800系列,NVIDIA全新网络交换机

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
新的 NVIDIA 交换机针对使用数万亿个参数的处理进行了优化。 (图片来源:NVIDIA)

A NVIDIA公司 今天还宣布了新的 X800,该公司专为大规模人工智能处理而设计的系列交换机。该系列 Quantum-X800 InfiniBand e Spectrum-X800 以太网 是世界上第一个能够实现 800Gb/s 端到端吞吐量的产品,突破了计算和 AI 工作负载网络性能的极限。

这些交换机配备先进的软件,可进一步为人工智能、云计算、数据处理和 HPC 应用程序提供支持(高性能计算)在所有类型的数据中心。它们经过专门设计,可与最近推出的基于该架构的产品线无缝集成 布莱克威尔 da NVIDIA公司,确保各方面的卓越表现。

这些创新的早期采用者包括云计算巨头,例如 微软 Azure 和 Oracle 云,强调了这项技术对全球范围内人工智能进步的相关性和影响。此外 芯织领先的云计算基础设施公司也是这些创新的早期采用者之一,这证明了这些进步在行业中的快速接受度和相关性。

该新交换机系列为人工智能专用基础设施树立了新标准,提供最高的性能和先进功能,以满足云和企业人工智能应用不断增长的需求。该技术有望显着提高处理、分析和执行人工智能工作负载的速度,从而加速全球人工智能解决方案的开发和部署。

NVIDIA 推出 AI 天气模拟器

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
气候建模模拟器使用 AI 和 NVIDIA DGX Cloud 来预测可能的自然灾害。 (图片来源:NVIDIA)

A NVIDIA公司 今天还宣布,在 GTC 2024,推出最新的天气模拟器, 地球2,标志着气候模拟领域的突破。采用尖端人工智能技术开发, 地球2 提供了一个云平台,用于以前所未有的规模模拟和可视化全球气候。

最令人印象深刻的特点之一 地球2 是使用采用先进人工智能模型的 API,包括革命性的 校正差异,它生成的图像的分辨率比当前数值模型高 12,5 倍,而所需时间和能耗却仅为当前数值模型的一小部分。这种以前所未有的速度和能源效率生成高分辨率模拟的能力是气候建模领域的一项了不起的成就。

此外, 地球2 使用 DGX云 da NVIDIA公司 为气候和天气解决方案提供全面加速,包括优化的人工智能管道和数值天气预报模型的GPU加速。这意味着用户 地球2 可以使用广泛的工具和资源来创建不同尺度的准确和详细的气候模拟,从全球大气到台风和湍流等特定的当地天气事件。

类似的公司 天气公司 正在探索整合气象数据的方法 地球2 借助其可视化工具,客户可以更好地了解真实天气状况对其运营和规划的影响。其他公司,例如 尖塔和气象学,正在利用资源 地球2 提高天气预报的准确性并为客户提供更准确的见解。

最终, 地球2 代表着朝着更深入、更准确地了解全球气候和极端天气事件迈出的一步。凭借其尖端技术和广泛的潜在应用,这款新型模拟器有可能改变我们理解和应对 21 世纪气候挑战的方式。

Omniverse Cloud API 的可用性

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
NVIDIA 云服务支持 API 的可用性,以便更好地与外部应用程序集成。 (图片来源:NVIDIA)

Na GTC 2024,以 NVIDIA公司 宣布 API 的可用性 全方位云 可供开发人员和公司使用,提供与市场上主要设计和自动化软件的更好集成。

随着 Omniverse 云 API,开发者现在可以轻松集成核心技术 Omniverse 直接集成到现有的软件应用程序中,为基于物理的数字孪生的创建、模拟和操作提供动力。这一新的发展代表了公司虚拟设计、测试和验证产品和流程的能力的一个重要里程碑,甚至在产品和流程在物理世界中构建之前也是如此。

五个新的 API 全方位云,可以单独或集体使用,包括:

  • 美元收益率 – 生成 呈现 全然 光线追踪 数据RTXTM 开放美元.
  • 美元写入 – 允许用户修改数据并与数据交互 开放美元.
  • 美元查询 – 允许交互式查询和场景。
  • 美元通知 – 跟踪美元变化并提供更新。
  • 全宇宙频道 – 连接用户、工具和世界,实现跨场景协作。

业界知名人士已经开始采用 API 全方位云 在他们的软件组合中。例如,像这样的公司 西门子、Ansys、Cadence、达索系统等,正在整合以下技术 Omniverse 为客户提供更加身临其境的实用体验。

这些进步不仅有望彻底改变公司设计、制造和运营工业产品和流程的方式,而且有可能提高世界各地公司的竞争力、弹性和可持续性。

公司在交通领域采用 NVIDIA DRIVE Thor

Nvidia 在 GTC 2024 期间展示了新的 Blackwell 架构。新架构有望将 AI 应用的运营成本降低多达 25 倍。公司还谈论了全方位云等等。查看
此前宣布,NVIDIA 的 DRIVE Thor 继续获得汽车市场领先公司的支持。 (图片来源:NVIDIA)

最后, NVIDIA公司 也在他的演讲中评论道 GTC 2024,关于通过 驾驶 托尔 运输部门和各公司。

O 驾驶雷神 它不仅仅是一台简单的汽车计算机,它是运输行业转型的基础部分,可以驱动从客车到长途卡车、机器人出租车和自动送货车辆的各种车辆。凭借其建筑风格, 托尔 不仅提供先进的驾驶舱功能,还提供安全的自动化和自主驾驶,所有这些都在一个集中式平台上,使用新的架构处理器 布莱克威尔 da NVIDIA公司,支持使用 LLM 和生成式 AI 进行处理以进行决策。

电动汽车领域的几家领先公司已经采用了 驾驶雷神 在您的下一代项目中。 A 比亚迪全球汽车行业巨头正在扩大与 NVIDIA公司,将雷神纳入其电动车队。此外 海珀和小鹏汽车 是选择的公司之一 托尔 为其未来的自动驾驶车队提供动力。

此外,DRIVE Thor 在货运和物流领域越来越受到重视。公司喜欢 Nuro、Plus、Waabi 和文远知行 在其自动驾驶项目中采用这种先进的人工智能系统处于领先地位。从开发商用和消费车辆的驾驶技术到大规模创建自动驾驶卡车运输解决方案,这些公司都依赖于 驾驶雷神 推动各自领域的创新。

该车计划于明年推出量产车, 驾驶雷神 凭借其性能和提供可靠自动驾驶的能力,有望彻底改变汽车行业。

来源: NVIDIA公司.

查看更多

评论者 格劳孔生命力 在18/3/24。


了解更多关于秀美科技

注册以通过电子邮件接收我们的最新消息。

发表评论

您的电子邮件地址将不会被发表。 必填字段标有 *

相关文章