Intel Xeon di quinta generazione arriva per rivoluzionare i data center per l'intelligenza artificiale

La nuova generazione di Intel Xeon era già stato annunciato qualche mese fa nel Innovazione Intel e, questo giovedì (14), Pat Gelsinger, CEO dell'azienda, ha presentato maggiori dettagli sul nuovissimo processore durante il IA ovunque, un evento incentrato sull'intelligenza artificiale e come Intel intende accelerare l'arrivo di questo nuovo mondo. O Intel Xeon di quinta generazione promette miglioramenti più rapidi della memoria e delle prestazioni con l'obiettivo di tenere il passo con il ritmo dell'evoluzione dell'intelligenza artificiale, preparando i data center a ricevere ed elaborare un'enorme quantità di dati, dando il via a una nuova era di espansione globale in cui la potenza di calcolo è ancora maggiore importante per il futuro migliore di tutti.

Quanto è importante il Data Center per l'AI?

Prima di vedere i nuovi impatti che il Intel Xeon di quinta generazione può portare a data center, è importante comprendere la rilevanza di questi luoghi nel guidare la continua evoluzione del intelligenza artificiale (IA). Questi complessi di server, spesso distribuiti a livello globale, svolgono un ruolo fondamentale nell’archiviazione, elaborazione e gestione degli enormi volumi di dati necessari per addestrare e migliorare gli algoritmi di intelligenza artificiale.

L’importanza dei data center per l’intelligenza artificiale è vitale. In primo luogo, forniscono l’infrastruttura necessaria per ospitare grandi quantità di dati, dai set di addestramento ai dati in tempo reale. La capacità di archiviazione e l’efficienza nel recupero dei dati sono aspetti cruciali per garantire che i modelli di intelligenza artificiale abbiano un accesso rapido ed efficiente alle informazioni necessarie per prendere decisioni accurate.

Inoltre, i data center sono estremamente importanti per l’addestramento di modelli IA complessi. Algoritmi moderni come le reti neurali profonde richiedono enormi quantità di potenza di calcolo per mettere a punto e ottimizzare milioni o addirittura miliardi di parametri. I data center, spesso dotati di unità di elaborazione grafica (GPU) ad alte prestazioni, consentono di eseguire questi calcoli intensivi in ​​parallelo, accelerando notevolmente il processo di formazione.

Attualmente, l’utilizzo più importante dei data center nel mondo dell’intelligenza artificiale è la sua implementazione tramite il cloud computing – o il cloud computing -, rendendo possibile l'elaborazione di questi dati a velocità assurde, senza la necessità che l'utente o l'azienda dispongano di un proprio server dati. Vedremo di seguito come piacciono le aziende Google hanno implementato il nuovo chip Intel per migliorare i tuoi servizi cloud.

Come produttori di processori come Intel, sviluppano e migliorano le loro architetture, aumentano l'efficienza e la potenza di elaborazione dei chip. Ciò non solo consente un’esecuzione più rapida delle attività di intelligenza artificiale, ma consente anche lo sviluppo di modelli più sofisticati e complessi. La migliore capacità di elaborazione di Intel Xeon di quinta generazione è fondamentale per affrontare le crescenti esigenze computazionali dell’intelligenza artificiale.

L'impatto di Intel Xeon di quinta generazione

O Intel Xeon di quinta generazione rappresenta un salto significativo in termini di prestazioni ed efficienza per data center, cloud, reti e ambienti edge. Questo nuovo processore offre un aumento medio delle prestazioni del 21% pur mantenendo la stessa potenza termica, con un conseguente aumento impressionante del 36% delle prestazioni per watt. Per i clienti che seguono un tipico ciclo di aggiornamento di cinque anni e passano dalle generazioni precedenti, la potenziale riduzione del costo totale di proprietà (TCO) arriva fino al 77%.

Realizzati per l'intelligenza artificiale, i processori Intel Xeon di quinta generazione offrono prestazioni superiori ai clienti che implementano funzionalità di intelligenza artificiale nel cloud, nella rete o nei dispositivi edge. Come risultato del nostro lavoro di lunga data con clienti, partner e l'ecosistema degli sviluppatori, stiamo lanciando Intel Xeon di quinta generazione su una base solida e comprovata che consentirà una rapida adozione e scalabilità con un TCO inferiore.

Sandra Rivera, vicepresidente esecutivo di Intel e direttore generale dei data center e del gruppo AI

Uno dei momenti salienti di Intel Xeon di quinta generazione è la sua integrazione unica dell'accelerazione dell'intelligenza artificiale (AI) direttamente nel processore. Ciò si traduce fino al 42% in più di capacità di inferenza e regolazione fine su modelli con un massimo di 20 miliardi di parametri. Anche il Xeon è l'unica CPU con una serie di risultati prestazionali coerenti e in costante miglioramento analisi comparativa formazione e inferenza MLPerf, garantendo affidabilità ed efficienza machine Learning.

Acceleratori AI integrati Xeon, combinato con un software ottimizzato e funzionalità di telemetria avanzate, facilitano implementazioni gestibili ed efficienti di carichi di lavoro impegnativi in ​​diversi settori. Ciò include fornitori di servizi di comunicazione, reti di distribuzione di contenuti e mercati verticali come vendita al dettaglio, sanità e produzione.

Durante il lancio, il IBM ha evidenziato che i processori Intel Xeon di quinta generazione hanno ottenuto prestazioni delle query fino a 2,7 volte migliori sulla loro piattaforma watsonx.data, rispetto ai processori Xeon della generazione precedente. O Google cloud, che prevede di attuare il Xeon di quinta generazione l'anno prossimo, ha riferito che il Palo Alto Networks ha raddoppiato le prestazioni dei suoi modelli di deep learning per il rilevamento delle minacce utilizzando l'accelerazione integrata Xeon di quinta generazione tramite la Google cloud.

Inoltre, lo studio di gioco Gallio Studios ha sfruttato la piattaforma AI dell’azienda numenta, che utilizza processori Xeon, ottenendo un aumento di 6,5 volte delle prestazioni di inferenza su un'istanza cloud basata su GPU, con conseguente riduzione dei costi e della latenza nel gioco vicino Basato sull'intelligenza artificiale.

Basato sulle generazioni precedenti, il nuovo processore apporta innovazioni significative in termini di prestazioni ed efficienza. Questi processori hanno la capacità di operare con un massimo di 64 core per CPU, che rappresentano quasi il triplo della cache massima di ultimo livello rispetto alla generazione precedente. Inoltre, offrono otto canali DDR5 per CPU, supportano DDR5 con velocità di trasferimento fino a 5.600 megatransfer al secondo (MT/s) ed espandono la larghezza di banda tra i socket con Intel UPI 2.0, fornendo fino a 20 gigatransfer al secondo (GT/s ).

Oltre a migliorare le prestazioni, i processori Intel Xeon di quinta generazione sono riconosciuti come i processori per data center più incentrati sulla sostenibilità mai sviluppati. Con gli acceleratori integrati che contribuiscono a migliorare le prestazioni per watt, l'efficienza energetica e il risparmio possono essere ulteriormente estesi abilitando la modalità Power Optimized nel BIOS della piattaforma, soprattutto nei carichi di lavoro che possono trarre vantaggio da questa funzionalità.

In termini di sicurezza, il Estensioni di dominio attendibili Intel (IntelTDX) offrono un livello più elevato di riservatezza nella macchina virtuale (VM), migliorando la privacy e fornendo un maggiore controllo sui dati. D'altra parte, il Estensioni della protezione del software Intel (Intel sgx) rappresentano la tecnologia leader nel campo dell'informatica riservata, essendo la più ricercata, aggiornata e completa disponibile nei data center sul mercato attuale.

i processori Xeon di quinta generazione sono retrocompatibili con i pin della generazione precedente e con importanti produttori di apparecchiature originali (OEM) come Cisco, Dell, HPE, Sistemi IEIT, Lenovo, Super Micro Computer, tra gli altri, prevedono di offrire un'ampia gamma di processori per sistemi single e dual-socket a partire dal primo trimestre del 2024. Inoltre, i principali fornitori di servizi cloud (CSP) annunceranno la disponibilità di istanze basate su Intel Xeon di quinta generazione ao longo fare ano.

Questo progresso nelle prestazioni di Intel Xeon di quinta generazione apre nuove possibilità per l’elaborazione del linguaggio naturale e le applicazioni avanzate di intelligenza artificiale, non solo nei data center e nel cloud, ma anche nelle applicazioni di rete e ai margini, favorendo l’innovazione e l’efficienza in diversi settori.

Maggiore richiesta di intelligenza artificiale generativa con Intel Gaudi3

Oltre ai nuovi chip, il Intel ha inoltre fornito maggiori dettagli su Intel Gaudi3, nuova versione del processore di accelerazione AI dell'azienda. L'azienda prevede di lanciare gli acceleratori nel 2024 e questo nuovo hardware sarà costruito sull'architettura ad alte prestazioni di gaudì2, promettendo di fornire una potenza di calcolo 4 volte maggiore (BF16), raddoppiare la larghezza di banda della rete per una scalabilità più efficace e una memoria HBM integrata 1,5 volte maggiore. Questi miglioramenti mirano a soddisfare la crescente domanda di elaborazione ad alte prestazioni e di efficienza degli LLM, senza compromettere le prestazioni.

Durante l' IA ovunque, Gelsinger ha presentato per la prima volta un wafer acceleratore gaudì3 e ha annunciato che il Intel sta vivendo una significativa espansione nella sua attività di ricerca e sviluppo del Gaudi grazie ai crescenti e comprovati vantaggi prestazionali, abbinati a prezzi altamente competitivi. Data la crescente domanda di soluzioni di intelligenza artificiale generativa, Intel prevede di conquistare una quota ancora maggiore del mercato degli acceleratori nel 2024, grazie alla sua suite di acceleratori IA, evidenziato da Intel Gaudi3.

Guarda il video sul canale Showmetech:

Fonte: Intel

Recensito da Glaucone Vitale il 14/12/23.