Intel、NVIDIA モデルよりも最大 3% 高速な AI チップ Gaudi 50 を発表

読書4分

Intel、NVIDIA モデルより最大 3% 高速な AI チップ Gaudi 50 を発表

オタビオ・ケイロス

9 4月2024

新製品は、前世代に比べて最大 4 倍のパフォーマンスと、NVIDIA H2,3 の 100 倍のエネルギー効率を実現すると約束されています。

インデックス

インテルガウディ 3
AI市場を巡ってAMDやNVIDIAと争う
可用性
1. Showmetech について詳しく知る

A インテル 今週火曜日（9日）、 インテルガウディ 3、あなたの末っ子 AIアクセラレータ 大規模なAIコンピューティングを目的としています。 5 ナノメートルのプロセスを使用して製造されたこの製品は、前世代 (Gaudi 2) と比較してエネルギー効率が向上し、処理能力が向上しています。

インテルガウディ 3

による会社、提示した インテルガウディ 3 イベント中 インテルビジョン 2024 に比べて、新しいラインナップは、前世代と比較して最大 4 倍優れた計算 AI パフォーマンスを実現し、さらにメモリ帯域幅が 1,5 倍、ネットワーク帯域幅が 2 倍増加します。この増加により、同社のソリューションは、大規模な生成 AI インフラストラクチャの市場における数少ない選択肢の XNUMX つとして浮上します。

Intel Gaudi 3 は、価格パフォーマンス、システムの拡張性、価値実現までの時間の利点の魅力的な組み合わせを提供する GenAI の代替製品として際立っています。
Justin Hotard 氏、インテル執行副社長兼データセンターおよび AI グループ担当ゼネラルマネージャー

チップス ガウディ 3 持ってる 64 個の Tensor Processing Core (TPC) AI 用にカスタマイズされており、完全にプログラム可能です。 8 つの行列乗算エンジン (MME)これにより、異種計算処理において優れたパフォーマンスが得られます。各 MME コプロセッサは、 64の並列操作を実行可能これにより、深層学習アルゴリズムに不可欠な複雑な行列演算を処理する能力が保証されます。

インテルはまた、アクセラレータが インテルガウディ 3 は、実験段階から本格的な実装まで、AI へのアクセシビリティと生成 AI プロジェクトの移行を迅速に拡大しようとしている、金融、製造、ヘルスケアなど、最も多様な分野の企業にサービスを提供することを約束します。

同社は、ソリューションがこれらの要件を満たしていることを保証するとともに、コミュニティベースのオープンソフトウェアと業界標準のオープンイーサネットを通じて多用途性を提供し、企業が AI システムとアプリケーションを柔軟に拡張できるように支援します。

Intel は、NVIDIA モデルよりも最大 3% 高速な AI チップである Gaudi 50 を発表しました。新製品は、前世代に比べて最大 4 倍のパフォーマンスと、NVIDIA H2,3 の 100 倍のエネルギー効率を実現すると約束されています。 — Gaudi 3 GPU には、AI 用にカスタマイズされた 64 個の Tensor Processing Core (TPC) があり、8 個の行列乗算エンジン (MME) を備えた完全にプログラム可能です (Disclosure/Intel)

の主なハイライトの中で、 インテルガウディ 3 まだ:

AI 専用のコンピューティングエンジン: このソリューションにより、高度な計算効率が可能になり、深層学習アルゴリズムの基礎となる計算の一種である複雑な行列演算の処理に熟達します。この独自の設計により、AI の並列処理の速度と効率が向上し、FP8 や BF16 などの複数のデータタイプがサポートされます。
LLM のメモリブーストの容量要件: 128 ギガバイト (GB) の HBMe2 メモリ容量、3,7 テラバイト (TB) のメモリ帯域幅、96 メガバイト (MB) の統合スタティックランダムアクセスメモリ (SRAM) は、少数の Intel Gaudi 3 で大規模な GenAI データセットを処理するための十分なメモリを提供し、特に便利です大規模な言語およびマルチモーダルモデルを提供するため、ワークロードのパフォーマンスとデータセンターのコスト効率が向上します。
Enterprise GenAI の効率的なシステムスケーリング: 200 個の 3 ギガビット (Gb) イーサネットポートが各 Intel Gaudi XNUMX アクセラレータに統合されており、柔軟なオープンスタンダードネットワーキングを提供します。
開発者の生産性を高めるオープンインダストリーソフトウェア: Intel Gaudi ソフトウェアは PyTorch フレームワークを統合し、今日の GenAI 開発者にとって最も一般的な AI フレームワークであるハグフェイスコミュニティに基づいて最適化されたモデルを提供します。これにより、GenAI 開発者は、使いやすさ、生産性、およびさまざまな種類のハードウェア間でのモデルの移植性を容易にする高レベルの抽象化で操作できるようになります。

AI市場を巡ってAMDやNVIDIAと争う

の打ち上げ インテル など他のメーカーとの紛争が激化。 AMD e NVIDIA、後者は最近でも発表しました H200, HPC および人工知能セグメントを対象とした GPU。 A AMD、 同様に、最近も発表されました産業用アプリケーション向け組み込みシステム用 Ryzen Embedded 8000 CPU.

現在、主にコンピュータビジョンやビッグデータ処理の分野で、多くのAIツールがすでに産業界で使用されています。これに伴い、製造業者はすでに、AI が最も多様な分野でさらに多くの空間を支配するであろう新しいコンピューティング世代への準備を進めています。

可用性

加速器 インテルガウディ 3 2024 年の第 XNUMX 四半期に、標準構成で相手先商標製品製造業者 (OEM) に提供される予定です。注目すべきパートナーシップの中には、 Dell Techonolgies、HPE、Lenovo、Supermicro、新しいアクセラレータを使用したソリューションは第 3 四半期に市場に投入されます。

以下も参照してください。