A Intel onthulde, deze dinsdag (9), de IntelGaudi3, je jongste AI-versneller gericht op grootschalige AI-computing. De lancering is vervaardigd met behulp van een proces van 5 nanometer en biedt een betere energie-efficiëntie en meer verwerkingskracht vergeleken met de vorige generatie (Gaudi 2).
IntelGaudi3
Volgens vennootschap, die presenteerde de IntelGaudi3 tijdens het evenement Intel Visie 2024 levert de nieuwe serie tot 4x betere computationele AI-prestaties dan de vorige generatie, plus een 1,5x toename van de geheugenbandbreedte en een 2x toename van de netwerkbandbreedte. Met de toename komt de oplossing van het bedrijf naar voren als een van de weinige alternatieven op de markt voor grootschalige generatieve AI-infrastructuur.
Intel Gaudi 3 onderscheidt zich als het GenAI-alternatief dat een overtuigende combinatie biedt van prijs-prestatie, systeemschaalbaarheid en time-to-value-voordeel.
Justin Hotard, Executive Vice President en General Manager van Intel voor Data Center en AI Group
de chips Gaudí 3 hebben 64 Tensor Processing Cores (TPC's) aangepast voor AI en zijn volledig programmeerbaar, met 8 matrixvermenigvuldigingsmotoren (MME), wat resulteert in uitstekende prestaties bij heterogene computationele verwerking. Elke MME-coprocessor is dat in staat om 64 parallelle operaties uit te voeren, wat de mogelijkheid garandeert om met complexe matrixbewerkingen om te gaan, iets essentieels voor Deep Learning-algoritmen.
Intel benadrukt ook dat het gaspedaal IntelGaudi3 belooft bedrijven uit de meest uiteenlopende gebieden, zoals financiën, productie en gezondheidszorg, te bedienen die de toegankelijkheid van AI en de transitie van generatieve AI-projecten snel willen uitbreiden, van experimentele fasen naar volledige implementatie.
Het bedrijf zorgt ervoor dat de oplossing aan deze eisen voldoet en ook veelzijdigheid zal bieden via op de gemeenschap gebaseerde open software en industriestandaard open Ethernet, waardoor bedrijven hun AI-systemen en -toepassingen flexibel kunnen schalen.
Tot de belangrijkste hoogtepunten van de IntelGaudi3 zijn nog steeds:
- AI-specifieke rekenengine: De oplossing zorgt voor een hoge mate van rekenefficiëntie, waardoor ze bedreven zijn in het verwerken van complexe matrixbewerkingen, een type berekening dat van fundamenteel belang is voor deep learning-algoritmen. Dit unieke ontwerp versnelt de snelheid en efficiëntie van parallelle AI-operaties en ondersteunt meerdere datatypen, waaronder FP8 en BF16;
- Geheugenboost voor LLM Capaciteitsvereisten: 128 gigabyte (GB) HBMe2-geheugencapaciteit, 3,7 terabyte (TB) geheugenbandbreedte en 96 megabyte (MB) geïntegreerd statisch willekeurig toegankelijk geheugen (SRAM) bieden voldoende geheugen voor het verwerken van grote GenAI-datasets in minder Intel Gaudi 3's, wat bijzonder handig is voor het bedienen van grote taal- en multimodale modellen, resulterend in verhoogde werklastprestaties en kostenefficiëntie van datacenters;
- Efficiënte systeemschaling voor Enterprise GenAI: Vierentwintig 200 gigabit (Gb) Ethernet-poorten zijn geïntegreerd in elke Intel Gaudi 3-accelerator, waardoor flexibele, open-standaard netwerken mogelijk zijn;
- Open Industry-software voor productiviteit van ontwikkelaars: Intel Gaudi-software integreert het PyTorch-framework en biedt geoptimaliseerde modellen op basis van de knuffelende gezichtgemeenschap, het meest voorkomende AI-framework voor GenAI-ontwikkelaars van vandaag. Hierdoor kunnen GenAI-ontwikkelaars op een hoog abstractieniveau werken voor gebruiksgemak en productiviteit en voor het gemak van overdraagbaarheid van modellen over verschillende soorten hardware.
Vecht met AMD en NVIDIA voor de AI-markt
de lancering van Intel intensiveert het geschil met andere fabrikanten, zoals AMD e NVIDIA, de laatste die zelfs onlangs de H200, GPU gericht op het HPC- en Artificial Intelligence-segment. Een AMD, maakte op zijn beurt onlangs ook de bekend Ryzen Embedded 8000 CPU voor embedded systemen voor industriële toepassingen.
Momenteel worden er al veel AI-tools gebruikt in de industrie, vooral op het gebied van computervisie en Big Data-verwerking. Hiermee bereiden fabrikanten zich samen al voor op een nieuwe computergeneratie, waarbij AI belooft nog meer ruimtes op de meest uiteenlopende gebieden te domineren.
Beschikbaarheid
Het gaspedaal IntelGaudi3 zal in het tweede kwartaal van 2024 in standaardconfiguraties beschikbaar zijn voor Original Equipment Manufacturers (OEM's). Onder de opmerkelijke partnerschappen zijn Dell Techonolgies, HPE, Lenovo en Supermicro, waarbij oplossingen die gebruik maken van de nieuwe versnellers in het derde kwartaal op de markt komen.
Zie ook:
Qualcomm RB3 Gen 2 wordt gelanceerd met 10x meer AI-prestaties. Bekijk alle lanceringsdetails.
Beoordeeld door Glaucon Vital op 9-4-24.
Ontdek meer over Showmetech
Meld u aan om ons laatste nieuws per e-mail te ontvangen.
