指數
本週一,即 18 日, NVIDIA 進行了期待已久的演講 GTC 2024 (GPU技術大會),被該公司譽為「面向開發者的領先人工智慧會議」。這項年度盛會是專家、研究人員、開發人員和愛好者的聚會場所,所有人齊聚一堂,探討和討論高效能運算、人工智慧、機器學習、遊戲和其他廣泛領域的最新趨勢和創新。
在今年的活動中,該公司展示了其最新的架構, 布萊克韋爾,致力於人工智慧的進步。此外,他還展示了他的新型超級計算機 DGX超級POD, 新聞關於 全方位雲,以及其他很棒的廣告。請看下面的公告 NVIDIA na GTC 2024.
NVIDIA 的全新 Blackwell 架構
O 布萊克韋爾 是創新的新 GPU 架構 NVIDIA 這有望定義計算和生成人工智慧(AI)的新時代。憑藉技術市場的革命性資源, 布萊克韋爾 注定會在從數據處理和自動化到量子計算的廣泛行業中發揮關鍵作用。
生成式人工智慧是我們這個時代的決定性技術。布萊克威爾是推動這場新工業革命的引擎。與世界上最具活力的公司合作,我們將實現人工智慧對每個產業的承諾。
黃仁勳,NVIDIA 創始人兼首席執行官。
其參數保證營運成本和能源消耗比其前身降低 25 倍, 布萊克韋爾 引入了革命性的新技術,使 LLM 模型中的 AI 訓練成為可能(例如 ChatGPT)適用於多達 10 兆個不同參數的規模,大大提高了解釋數據並提供智慧答案和解決方案的能力。
首先,該公司本身就被譽為「世界上最強大的晶片」。擁有令人難以置信的 208 億個電晶體、GPU 布萊克韋爾 採用客製化的台積電 4NP 製程生產,為功耗和效率設立了新標準。該架構採用獨特的方法,每個 GPU 晶片有兩個標線,透過 10 TB/秒的晶片到晶片鏈路互連,從而形成具有前所未有的處理能力的單一統一 GPU。
由新的擴充支援提供支援 微張緊器 和先進的動態範圍管理演算法,將使該架構 布萊克韋爾 運算能力和模型大小加倍,提供新的浮點人工智慧推理能力(浮點數) 4 位。
O NVLink 第五代是另一項關鍵技術,提供 吞吐量 每個 GPU 創新的雙向 1,8 TB/s。這可實現多達 576 個 GPU 之間的高速通信,從而加速具有數萬億參數和專家組合的複雜 AI 模型的性能。
此外, 布萊克韋爾 GPU 包括 RAS引擎 (可靠性、可用性 e 可維修性,英文),配備專用發動機,確保可靠性、可用性和可維護性。該架構還使用基於人工智慧的預防性維護來診斷和預測可靠性問題,最大限度地延長系統正常運作時間並降低大規模人工智慧部署中的營運成本。
在新架構中,安全性是重中之重 布萊克韋爾 將提供先進的機密運算能力。這可以在不影響效能的情況下保護人工智慧模型和客戶數據,並支援新的本機介面加密協議,這對於醫療保健和金融服務等隱私敏感行業尤其重要。
最後,專用的解壓縮引擎可加速資料庫查詢,以提供資料分析和資料科學的最高效能。考慮到不斷增長的數據量以及對快速高效分析的需求,此功能至關重要。
這些新技術共同定位了架構 布萊克韋爾 作為未來處理市場中人工智慧、高效能運算和數據分析應用的功率、效率和安全性方面無可爭議的領導者。
技術衍生產品 布萊克韋爾 將於今年稍後透過戰略合作夥伴關係為市場做好準備。提供技術驅動的雲端服務的先驅之一 布萊克韋爾,巨頭脫穎而出 AWS、Google雲端、微軟 Azure 和 Oracle 雲端以及公司雲端合作夥伴計畫的參與者 NVIDIA例如 Applied Digital、CoreWeave、Crusoe、IBM Cloud 和 Lambda。此外,人工智慧平台,例如 Indosat Ooredoo Hutchinson、Nebius、Nexgen Cloud 和 Oracle EU Sovereign Cloud除其他外,還將使用 布萊克韋爾.
此外 NVIDIA 也展示了一種新的超級晶片,該晶片的實現得益於技術 布萊克韋爾或 NVIDIA GB200 格雷斯‧布萊克韋爾。這種新晶片連接兩個 NVIDIA B200 張量 GPU 核心 à CPU寬限期 da NVIDIA 透過超低功耗晶片間互連 NVLink 900GB/秒。該平台充當單一 GPU,具有 1,4 exaflops 的 AI 性能和 30TB 的快速內存,是最新的構建塊 DGX超級POD,我們將在下面對此進行評論。
新 GB200 將成為系統的一部分 NVIDIA GB200 NVL72 適用於更密集的運算工作負載。它結合了36 葛蕾絲布萊克威爾超級晶片,其中包括 72 布萊克韋爾 GPU 和36 格雷斯 CPU 相互連接的 NVLink 第五代,與相同數量的產品相比,有望提供高達 30 倍的效能提升 Tensor Core H100 GPU da NVIDIA 適用於 LLM 推理工作負載,並將成本和功耗降低高達 25 倍。
新一代人工智慧超級電腦
在公告中 NVIDIA 圍繞建築 布萊克韋爾, 這 DGX超級POD,該公司的下一代超級計算機,具有數萬億參數規模的人工智慧生成計算能力。由超級晶片提供動力 格蕾絲·布萊克威爾 GB200, 新的 DGX超級POD 是用系統建構的 NVIDIA DGX™ GB200 並提供 11,5 exaflops 的 FP4 精度 AI 超級運算和 240 TB 內存,讓您可以透過額外的機架進一步擴展。
O DGX超級POD 由八個或更多系統組成 DGX GB200,具有擴展到數萬個的能力 GB200超級晶片 透過科技互聯 NVIDIA 量子 InfiniBand。為了創建相當大的共享記憶體空間並支援下一代AI模型,客戶可以實現連接576個GPU的配置 布萊克韋爾 存在於八個系統中 DGX GB200 通過 NVLink.
全新 DGX SuperPOD 結合了 NVIDIA 在加速運算、網路和軟體方面的最新進展,使每個公司、產業和國家都能完善和產生自己的 AI。
黃仁勳,NVIDIA 創始人兼首席執行官。
新 DGX超級POD 是一款專為資料中心規模而設計的完整 AI 超級計算機,可與 NVIDIA 認證合作夥伴提供的高效能儲存無縫集成,以滿足生成型 AI 工作負載的需求。每個單元均在工廠組裝、連接和測試,從而在客戶的資料中心快速且有效率地部署。
此外,超級電腦還配備了先進的預測管理功能,能夠連續監控硬體和軟體上的數千個數據點。這使您能夠預測並糾正可能的停機和低效率根源,從而節省時間、能源和計算成本。
這款整合軟體能夠偵測系統中的潛在問題、規劃維護、靈活調整運算資源,甚至自動儲存和復原任務以避免任何中斷,即使在系統管理員不在場的情況下也是如此。如果發現需要更換組件,叢集可以啟動其備用容量,以確保正在進行的工作按時完成。
除了新的超級電腦之外, NVIDIA 還介紹了 DGX B200,一個統一的人工智慧超級運算平台,專為模型訓練、微調和推理而設計。它介紹了系統 DGX B200,這是第六代設計 DGX 機架安裝。該系統包含八個GPU NVIDIA B200 張量核心 和兩個處理器 英特爾至強 第 5 代。
它提供高達 144 petaflops 的 AI 效能、1.4TB GPU 記憶體和 64TB/s 記憶體頻寬,與上一代產品相比,萬億參數模型的即時推理速度提高了 15 倍。系統 DGX B200 還具有先進的網路功能,包括 NVIDIA ConnectXTM-7 NIC e BlueField-3 DPU,為每個連接提供每秒高達 400 GB 的頻寬,確保網路平台的快速 AI 效能 NVIDIA Quantum-2 InfiniBand e NVIDIA SpectrumTM-X 乙太網.
O NVIDIA DGX SuperPOD , DGX GB200 和系統 DGX B200 將於 2024 年向全球合作夥伴提供 NVIDIA.
X800系列,NVIDIA全新網路交換機
A NVIDIA 今天也宣布了新的 X800,該公司專為大規模人工智慧處理而設計的系列交換器。該系列 Quantum-X800 InfiniBand e Spectrum-X800 乙太網 是世界上第一個能夠實現 800Gb/s 端對端吞吐量的產品,突破了運算和 AI 工作負載網路效能的極限。
這些交換器配備先進的軟體,可進一步為人工智慧、雲端運算、資料處理和 HPC 應用程式提供支援(高性能計算)在所有類型的資料中心。它們經過專門設計,可與最近推出的基於該架構的產品線無縫集成 布萊克韋爾 da NVIDIA,確保各方面的卓越表現。
這些創新的早期採用者包括雲端運算巨頭,例如 微軟 Azure 和 Oracle 雲端,強調了這項技術對全球範圍內人工智慧進步的相關性和影響。另外 芯織領先的雲端運算基礎設施公司也是這些創新的早期採用者之一,這證明了這些進步在行業中的快速接受度和相關性。
這個新交換器系列為人工智慧專用基礎設施樹立了新標準,提供最高的性能和先進功能,以滿足雲端和企業人工智慧應用不斷增長的需求。該技術可望顯著提高處理、分析和執行人工智慧工作負載的速度,從而加速全球人工智慧解決方案的開發和部署。
NVIDIA 推出 AI 天氣模擬器
A NVIDIA 今天也宣布,在 GTC 2024,推出最新的天氣模擬器, 地球2,標誌著氣候模擬領域的突破。採用尖端人工智慧技術開發, 地球2 提供了一個雲端平台,以前所未有的規模模擬和視覺化全球氣候。
最令人印象深刻的特點之一 地球2 是使用採用先進人工智慧模型的 API,包括革命性的 校正差異,它產生的影像的解析度比目前數值模型高 12,5 倍,而所需時間和能耗卻僅為目前數值模型的一小部分。這種以前所未有的速度和能源效率產生高解析度模擬的能力是氣候建模領域的一項了不起的成就。
除此之外 地球2 使用 DGX雲 da NVIDIA 為氣候和天氣解決方案提供全面加速,包括優化的人工智慧管道和數值天氣預報模型的GPU加速。這意味著用戶 地球2 可以使用廣泛的工具和資源來創建不同尺度的準確和詳細的氣候模擬,從全球大氣到颱風和湍流等特定的當地天氣事件。
公司喜歡 天氣公司 正在探索整合氣象資料的方法 地球2 借助其視覺化工具,客戶可以更好地了解真實天氣狀況對其營運和規劃的影響。其他公司,例如 尖塔和氣象學,正在利用資源 地球2 提高天氣預報的準確性並為客戶提供更準確的見解。
最終, 地球2 代表著朝著更深入、更準確地了解全球氣候和極端天氣事件的一步。憑藉其尖端技術和廣泛的潛在應用,這款新型模擬器有可能改變我們理解和應對 21 世紀氣候挑戰的方式。
Omniverse Cloud API 的可用性
Na GTC 2024 NVIDIA 宣布 API 的可用性 全方位雲 可供開發人員和公司使用,提供與市場上主要設計和自動化軟體的更好整合。
隨著 Omniverse 雲端 API,開發者現在可以輕鬆整合核心技術 Omniverse 直接整合到現有的軟體應用程式中,為基於物理的數位孿生的創建、模擬和操作提供動力。這項新的發展代表了公司虛擬設計、測試和驗證產品和流程的能力的一個重要里程碑,甚至在產品和流程在物理世界中建構之前也是如此。
五個新的 API 全方位雲,可以單獨或集體使用,包括:
- 美元收益率 – 生成 呈現 完全 光線追踪 資料RTXTM 開放美元.
- 美元寫入 – 允許使用者修改資料並與資料交互 開放美元.
- 美元查詢 – 允許互動式查詢和場景。
- 美元通知 – 追蹤美元變化並提供更新。
- 全宇宙頻道 – 連結使用者、工具和世界,實現跨場景協作。
業界知名人士已經開始採用 API 全方位雲 在他們的軟體組合中。例如,像這樣的公司 西門子、Ansys、Cadence、達梭系統等,正在整合以下技術 Omniverse 為客戶提供更身臨其境的實用體驗。
這些進步不僅有望徹底改變公司設計、製造和營運工業產品和流程的方式,而且有可能提高世界各地公司的競爭力、彈性和永續性。
本公司在交通領域採用 NVIDIA DRIVE Thor
最後,到 NVIDIA 也在他的演講中評論道 GTC 2024,關於通過 駕駛 托爾 運輸部門和各公司。
O 駕駛雷神 它不僅僅是一台簡單的汽車計算機,它是運輸業轉型的基礎部分,可以驅動從客車到長途卡車、機器人計程車和自動送貨車輛的各種車輛。憑藉其建築風格, 托爾 不僅提供先進的駕駛艙功能,還提供安全的自動化和自主駕駛,所有這些都在一個集中式平台上,使用新的架構處理器 布萊克韋爾 da NVIDIA,支援使用 LLM 和生成式 AI 進行處理以進行決策。
電動車領域的幾家領先公司已經採用了 駕駛雷神 在您的下一代專案中。 A 比亞迪全球汽車業巨頭正在擴大與 NVIDIA,將雷神納入其電動車隊。另外 海珀和小鵬汽車 是選擇的公司之一 托爾 為其未來的自動駕駛車隊提供動力。
此外,DRIVE Thor 在貨運和物流領域也越來越受到重視。公司喜歡 Nuro、Plus、Waabi 和文遠知行 在其自動駕駛專案中採用這種先進的人工智慧系統處於領先地位。從開發商用和消費車輛的駕駛技術到大規模創建自動駕駛卡車運輸解決方案,這些公司都依賴 駕駛雷神 推動各自領域的創新。
該車計劃明年推出量產車, 駕駛雷神 憑藉其性能和提供可靠自動駕駛的能力,有望徹底改變汽車產業。
來源: NVIDIA.
查看更多
審閱者 格勞孔生命力 18 年 3 月 24 日。
了解更多關於秀美科技
註冊以透過電子郵件接收我們的最新消息。