De 5e generatie Intel Xeon arriveert om een ​​revolutie teweeg te brengen in datacenters voor AI

De nieuwe generatie van Intel Xeon werd enkele maanden geleden al aangekondigd in de Intel-innovatie en donderdag (14) presenteerde Pat Gelsinger, CEO van het bedrijf, meer details over de gloednieuwe processor tijdens de AI overal, een evenement gericht op AI en hoe Intel wil de komst van deze nieuwe wereld versnellen. O 5e generatie Intel Xeon belooft snellere geheugen- en prestatieverbeteringen met de nadruk op het bijhouden van het tempo van de evolutie van kunstmatige intelligentie, het voorbereiden van datacenters op het ontvangen en verwerken van een enorme hoeveelheid gegevens, waardoor plaats wordt gemaakt voor een nieuw tijdperk van mondiale expansie waarin de rekenkracht nog groter wordt belangrijk voor ieders betere toekomst.

Hoe belangrijk is het datacenter voor AI?

Voordat we de nieuwe gevolgen zien die de 5e generatie Intel Xeon kan brengen datacentersis het belangrijk om de relevantie van deze plaatsen te begrijpen bij het aandrijven van de voortdurende evolutie van kunstmatige intelligentie (AI). Deze servercomplexen, vaak wereldwijd verspreid, spelen een cruciale rol bij het opslaan, verwerken en beheren van de enorme hoeveelheden gegevens die nodig zijn om AI-algoritmen te trainen en te verbeteren.

Het belang van datacenters voor AI is van cruciaal belang. Ten eerste bieden ze de infrastructuur die nodig is om grote hoeveelheden gegevens te hosten, van trainingssets tot realtime gegevens. Opslagcapaciteit en efficiëntie bij het ophalen van gegevens zijn cruciale aspecten om ervoor te zorgen dat modellen voor kunstmatige intelligentie snel en efficiënt toegang hebben tot de informatie die nodig is om nauwkeurige beslissingen te nemen.

Bovendien zijn datacenters van groot belang voor het trainen van complexe AI-modellen. Moderne algoritmen zoals diepe neurale netwerken vereisen enorme hoeveelheden rekenkracht om miljoenen of zelfs miljarden parameters af te stemmen en te optimaliseren. Datacenters, vaak uitgerust met krachtige grafische verwerkingseenheden (GPU's), maken het mogelijk om deze intensieve berekeningen parallel uit te voeren, waardoor het trainingsproces aanzienlijk wordt versneld.

Momenteel is het belangrijkste gebruik van datacenters in de wereld van AI de implementatie ervan via cloud computing – of cloud computing - waardoor het mogelijk wordt om deze gegevens met absurde snelheden te verwerken, zonder dat de gebruiker of het bedrijf over een eigen dataserver hoeft te beschikken. We zullen hieronder zien hoe bedrijven het leuk vinden Google hebben de nieuwe chip geïmplementeerd Intel om uw clouddiensten te verbeteren.

Als processorfabrikanten zoals IntelAls ze hun architecturen ontwikkelen en verbeteren, nemen de efficiëntie en verwerkingskracht van de chips toe. Dit maakt niet alleen een snellere uitvoering van AI-taken mogelijk, maar maakt ook de ontwikkeling van meer geavanceerde en complexe modellen mogelijk. De verbeterde verwerkingscapaciteit van 5e generatie Intel Xeon is van fundamenteel belang voor het omgaan met de toenemende computationele eisen van kunstmatige intelligentie.

De impact van de 5e generatie Intel Xeon

O Intel Xeon 5e generatie vertegenwoordigt een aanzienlijke sprong in prestaties en efficiëntie voor datacenters, clouds, netwerken en edge-omgevingen. Deze nieuwe processor biedt een gemiddelde prestatiewinst van 21% met behoud van hetzelfde thermische vermogen, wat resulteert in een indrukwekkende prestatieverbetering van 36% per watt. Voor klanten die een typische upgradecyclus van vijf jaar volgen en overstappen van oudere generaties, kan de potentiële verlaging van de Total Cost of Ownership (TCO) oplopen tot 77%.

De 5e generatie Intel Xeon-processors zijn gebouwd voor AI en leveren betere prestaties voor klanten die AI-mogelijkheden implementeren in de cloud, het netwerk of edge-apparaten. Als resultaat van ons langdurige werk met klanten, partners en het ontwikkelaarsecosysteem lanceren we de 5e generatie Intel Xeon op een bewezen solide basis die snelle adoptie en schaalbaarheid met lagere TCO mogelijk maakt.

Sandra Rivera, Executive Vice President en General Manager van de Data Centers en AI Group van Intel

Een van de hoogtepunten van 5e generatie Intel Xeon is de unieke integratie van kunstmatige intelligentie (AI)-versnelling rechtstreeks in de processor. Dit vertaalt zich in tot 42% meer inferentie- en fijnafstemmingscapaciteit op modellen met maximaal 20 miljard parameters. Ook de Xeon is de enige CPU met een consistente en voortdurend verbeterende reeks prestatieresultaten benchmarking training en gevolgtrekking MLPerf, waardoor betrouwbaarheid en efficiëntie worden gegarandeerd Machine leren.

AI-versnellers ingebouwd Xeon, gecombineerd met geoptimaliseerde software en geavanceerde telemetriemogelijkheden, vergemakkelijken beheersbare en efficiënte implementaties van veeleisende workloads in diverse industrieën. Dit omvat aanbieders van communicatiediensten, netwerken voor het leveren van inhoud en verticale markten zoals de detailhandel, de gezondheidszorg en de productie.

Tijdens de lancering werd de IBM benadrukte dat verwerkers 5e generatie Intel Xeon bereikten tot 2,7x betere queryprestaties op hun platform watsonx.gegevens, vergeleken met verwerkers Xeon van de vorige generatie. O Google Cloud, die van plan is de 5e generatie Xeon volgend jaar, meldde dat de Palo Alto Networks heeft de prestaties van zijn deep learning-modellen voor bedreigingsdetectie verdubbeld met behulp van ingebouwde versnelling 4e generatie Xeon door het Google Cloud.

Daarnaast de gamestudio Gallium-studio's maakte gebruik van het AI-platform van het bedrijf numenta, dat gebruik maakt van processors Xeon, waardoor een 6,5x hogere inferentieprestatie wordt bereikt op een GPU-gebaseerde cloudinstantie, wat resulteert in lagere kosten en latentie in uw game in de buurt AI-gebaseerd.

Gebaseerd op eerdere generaties, brengt de nieuwe processor aanzienlijke innovaties op het gebied van prestaties en efficiëntie. Deze processors kunnen werken met maximaal 64 cores per CPU, wat neerkomt op bijna het drievoudige van de maximale cache op het laatste niveau vergeleken met de vorige generatie. Bovendien bieden ze acht DDR5-kanalen per CPU, ondersteunen DDR5 met overdrachtssnelheden tot 5.600 megatransfers per seconde (MT/s), en breiden ze de bandbreedte tussen sockets uit met Intel UPI 2.0, waardoor tot 20 gigatransfers per seconde (GT/s) worden geleverd. ).

Naast verbeterde prestaties, processors 5e generatie Intel Xeon worden erkend als de meest op duurzaamheid gerichte datacenterprocessors die ooit zijn ontwikkeld. Met ingebouwde versnellers die bijdragen aan verbeterde prestaties per watt, kunnen de energie-efficiëntie en besparingen verder worden uitgebreid door de Power Optimized Mode in het platform-BIOS in te schakelen, vooral bij workloads die van deze functie kunnen profiteren.

Op het gebied van de veiligheid is de Intel Trusted Domain-extensies (Intel TDX) bieden een hoger niveau van vertrouwelijkheid in de virtuele machine (VM), waardoor de privacy wordt verbeterd en meer controle over gegevens wordt geboden. Aan de andere kant, de Intel Software Guard-extensies (intel sgx) vertegenwoordigen de toonaangevende technologie op het gebied van vertrouwelijk computergebruik en zijn de meest onderzochte, bijgewerkte en uitgebreide beschikbare datacenters op de huidige markt.

de verwerkers 5e generatie Xeon zijn achterwaarts compatibel met pinnen van de vorige generatie en belangrijke Original Equipment Manufacturers (OEM's) zoals Cisco, Dell, HPE, IEIT-systemen, Lenovo, Super Micro Computerzijn onder meer van plan om vanaf het eerste kwartaal van 2024 een breed scala aan processors voor single- en dual-socketsystemen aan te bieden. Daarnaast zullen toonaangevende Cloud Service Providers (CSP's) de beschikbaarheid aankondigen van instances op basis van 5e generatie Intel Xeon ao longo doe ano.

Deze vooruitgang in de prestaties van 5e generatie Intel Xeon opent nieuwe mogelijkheden voor natuurlijke taalverwerking en geavanceerde AI-toepassingen, niet alleen in datacenters en clouds, maar ook tussen netwerkapplicaties en aan de randen, waardoor innovatie en efficiëntie in meerdere industrieën worden gestimuleerd.

Meer vraag naar generatieve AI met Intel Gaudi3

Naast de nieuwe chips, de Intel gaf ook meer details over de Intel Gaudi3, nieuwe versie van de AI-versnellingsprocessor van het bedrijf. Het bedrijf is van plan de accelerators in 2024 te lanceren en deze nieuwe hardware zal worden gebouwd op de krachtige architectuur van gaudi2, dat belooft 4x meer rekenkracht te leveren (BF16), de netwerkbandbreedte te verdubbelen voor effectievere schaling, en 1,5x meer geïntegreerd HBM-geheugen. Deze verbeteringen zijn bedoeld om tegemoet te komen aan de groeiende vraag naar high-performance computing en efficiëntie van LLM's, zonder de prestaties in gevaar te brengen.

Tijdens de AI overal, presenteerde Gelsinger eerst een versnellerwafel gaudi3 en kondigde aan dat de Intel ervaart een aanzienlijke uitbreiding van het onderzoek naar en de ontwikkeling van de Gaudi dankzij groeiende en bewezen prestatievoordelen, gecombineerd met zeer concurrerende prijzen. Gezien de groeiende vraag naar generatieve AI-oplossingen, Intel is van plan om in 2024 een nog groter deel van de acceleratormarkt te veroveren, aangedreven door zijn reeks AI-accelerators, benadrukt door Intel Gaudi3.

Bekijk de video op het Showmetech-kanaal:

Bron: Intel

Beoordeeld door Glaucon Vital op 14-12-23.