A Intel revelou, nesta terça-feira (9), o Intel Gaudi 3, seu mais novo acelerador de IA voltado para computação de IA em larga escala. Fabricado em um processo de 5 nanômetros, o lançamento oferece uma melhor eficiência energética e mais poder de processamento, se comparado à geração anterior (Gaudi 2).
Intel Gaudi 3
De acordo com a empresa, que apresentou o Intel Gaudi 3 durante o evento Intel Vision 2024, a nova linha oferece um desempenho de IA computacional até 4x melhor do que a geração anterior, além de um aumento de 1,5x na largura de banda de memória e 2x na largura de banda de rede. Com o incremento, a solução da companhia desponta como uma das poucas alternativas do mercado para infraestrutura de IA Generativa em larga escala.
O Intel Gaudi 3 se destaca como a alternativa GenAI que apresenta uma atraente combinação de desempenho de preços, escalabilidade do sistema e vantagem do tempo de retorno.
Justin Hotard, vice-presidente executivo e gerente geral da Intel para data center e grupo de IA
Os chips Gaudi 3 possuem 64 Núcleos de Processamento Tensor (TPCs) personalizados para IA e são totalmente programáveis, com 8 Motores de Multiplicação Matricial (MME), o que resulta em um excelente desempenho em processamento computacional heterogêneo. Cada coprocessador MME é capaz de executar 64 mil operações paralelas, o que garante a capacidade de lidar com operações matriciais complexas, algo essencial para algoritmos de Deep Learning.
A Intel ressalta ainda que o acelerador Intel Gaudi 3 promete atender empresas das mais diversas áreas, como finanças, manufatura e saúde, que estejam buscando ampliar rapidamente a acessibilidade à IA e a transição de projetos de IA generativa, desde de fases experimentais até a implementação em escala total.
A companhia assegura que a solução vai atender a esses requisitos e oferecerá, ainda, versatilidade por meio de software aberto baseado na comunidade e Ethernet aberta padrão do setor, ajudando as empresas a escalar seus sistemas e aplicações de IA de forma flexível.
Dentre os principais destaques do Intel Gaudi 3 ainda estão:
- Mecanismo de computação dedicado a IA: A solução permite um alto grau de eficiência computacional, tornando-os adeptos ao lidar com operações complexas de matrizes, um tipo de computação que é fundamental para algoritmos de aprendizagem profunda. Este projeto exclusivo acelera a velocidade e a eficiência das operações de IA paralelas e suporta vários tipos de dados, incluindo FP8 e BF16;
- Boost de memória para requisitos de capacidade de LLM: 128 gigabytes (GB) de capacidade de memória HBMe2, 3,7 terabytes (TB) de largura de banda de memória e 96 megabytes (MB) de memória de acesso aleatório estático integrado (SRAM) fornecem ampla memória para processar grandes conjuntos de dados GenAI em menos Intel Gaudi 3s, particularmente útil para atender grandes modelos de linguagem e multimodal, resultando em maior desempenho da carga de trabalho e eficiência do custo do data center;
- Dimensionamento eficiente do sistema para Enterprise GenAI: Vinte e quatro portas Ethernet de 200 gigabits (Gb) estão integradas a cada acelerador Intel Gaudi 3, fornecendo redes flexíveis e de padrão aberto;
- Software do setor aberto para produtividade de desenvolvedores: O software Intel Gaudi integra o framework PyTorch e oferece modelos otimizados baseados na comunidade hugging face, o framework de IA mais comum para desenvolvedores de GenAI de hoje. Isso permite que os desenvolvedores GenAI operem em um alto nível de abstração para facilidade de uso e produtividade e facilidade de portabilidade de modelos em diferentes tipos de hardware.
Briga com AMD e NVIDIA pelo mercado de IA
O lançamento da Intel acirra a disputa com outras fabricantes, como a AMD e NVIDIA, esta última que, inclusive, anunciou, recentemente, o H200, GPU voltada para o segmento de HPC e Inteligência Artificial. A AMD, por sua vez, também anunciou recentemente a CPU Ryzen Embedded 8000 para sistemas embarcados para aplicações industriais.
Atualmente, muitas ferramentas de IA já são utilizadas na indústria, principalmente no campo de visão computacional e processamento de Big Data. Com isso, juntas, as fabricantes já preparam-se para uma nova geração computacional, onde a IA promete dominar ainda mais os espaços nas mais diversas áreas.
Disponibilidade
O acelerador Intel Gaudi 3 estará disponível para fabricantes de equipamentos originais (OEMs) no segundo trimestre de 2024 em configurações padrão. Entre as parcerias de destaque estão Dell Techonolgies, HPE, Lenovo e Supermicro, com soluções utilizando os novos aceleradores chegando ao mercado já no terceiro trimestre.
Veja também:
Qualcomm RB3 Gen 2 é lançado com 10x mais performance em IA. Confira todos os detalhes do lançamento.
Revisado por Glauco Vital em 9/4/24.
