CPU ou GPU/NPU : qu'est-ce qui compte le plus lors du choix d'un ordinateur portable pour l'IA ?

Avec l'avancement de intelligence artificielle et le lancement de PC IA par les constructeurs informatiques, le sujet devrait être l’un des plus évoqués dans le monde de la technologie en 2024. NPU sont devenus des acteurs clés dans le traitement des charges de travail d’IA, mais avez-vous vraiment besoin d’un PC équipé de cette fonctionnalité pour réaliser des activités d’IA ?

à l'invitation de NVIDIA, nous avons testé comment un ordinateur portable équipé de carte vidéo dédiée effectue des tâches d'IA même sans processeur qui n'est pas qualifié pour la catégorie des PC IA. Comprenez ci-dessous ce qui est le plus important pour ceux qui travaillent quotidiennement avec l'IA : Processeur ou GPU.

Qu'est-ce qu'un PC IA ?

Le terme a commencé à être utilisé par Intel et Microsoft avec le lancement de la famille de processeurs Intel core ultra. En 2023, le Microsoft a déclaré que pour qu'un ordinateur soit classé comme AIPC, il doit répondre à trois exigences. Sont-ils:

• Avoir une clé Copilote pour activer le intelligence artificielle sur votre clavier ;
• Capacité à exécuter l’intelligence artificielle Copiloteprésent dans Windows 11;
• Avoir un processeur avec NPU dédié qui atteint au moins TOP 40 (des milliards d'opérations par seconde)

Uma NPU est une zone dédiée du processeur axée sur les activités d'intelligence artificielle. En pratique, le processeur gagne une autre puce afin que le CPU et le GPU soient dédiés à leurs activités principales. Ces composants peuvent même prendre en charge le NPU, mais les activités d’IA seront essentiellement traitées dans le NPU.

Les processeurs équipés de ce NPU sont également annoncés comme ayant une meilleure efficacité énergétique, offrant une plus grande durée de vie de la batterie lorsque cela est nécessaire, sans qu'il soit nécessaire de perdre en performances. C'est la grande différence entre les lignes Livre Galaxy3 e Book4, lancé par Samsung.

En mai de 2024, le Microsoft a créé sa propre catégorie de PC IA, qui prend le nom de Copilote+ PC, avec une exigence de performance TOPS plus élevée pour les activités d'IA. Pour être considéré comme un Copilote+ PC, un ordinateur doit répondre aux exigences suivantes :

• Avoir au moins 16 Go de mémoire RAM ;
• Disposer d'un stockage d'au moins 256 Go via SSD ;
• Avoir un NPU intégré avec au moins 40 TOPS de performance ;
• Avoir une clé dédiée à l'intelligence artificielle Copilote sur le clavier ;
• Il n'y a pas d'encoche sur l'écran.

Ordinateurs certifiés comme Copilote+ PC ont été essentiellement créés pour rattraper les ordinateurs Mac, à partir Pomme. L'un des premiers modèles annoncés était des ordinateurs portables Surface, de sa propre Microsoft, qui ont des processeurs Muflier X Élite, à partir Qualcomm. Découvrez les performances TOPS sur les gammes de processeurs NPU lancées cette année :

• AMD Ryzen AI 300: jusqu'à 50 TOPS de performances ;
• Lac lunaire Intel: jusqu'à 48 TOP de performances ;
• Muflier X Élite: jusqu'à 45 TOPS de performances.

HAUTS est l'acronyme de Des milliards d'opérations par secondeOu Milliards d'opérations par seconde. C'est le paramètre permettant de mesurer la capacité du NPU à traiter l'intelligence artificielle sur les processeurs. Ici, la règle de base est la suivante : plus une NPU possède de TOPS, plus elle aura de capacité pour exécuter des activités d’IA. 

Mais les ordinateurs portables précédents n’ont-ils pas d’intelligence artificielle ?

Il y a quelque chose sur lequel les fabricants de processeurs ne comptent pas : les cartes vidéo dédiées ont déjà des performances TOPS bien supérieures à celles requises pour les PC IA, offrant plus de productivité dans les tâches d'intelligence artificielle à leurs utilisateurs, même sur les ordinateurs qui ne disposent pas de NPU.

Cependant, la définition de Microsoft pour PC IA e PC Copilot+ ne permet pas à ces ordinateurs à hautes performances en IA de recevoir ces classifications, précisément parce qu'ils n'ont pas de NPU intégré. Et ici nous entrons dans la discussion selon laquelle le NVIDIA communique : les ordinateurs dotés d’intelligence artificielle existaient avant même des entreprises comme Samsung,Lenovo, ASUS et elle-même Microsoft commencez à investir dans ces conditions.

La définition vise à créer une catégorie, mais le fait de ne pas disposer de NPU n'exclut pas qu'un PC doté d'un GPU puissant soit utilisé dans des tâches impliquant l'intelligence artificielle. En fait, rien ne vous empêchera d'exécuter des applications dotées de capacités d'IA sur des PC équipés de cartes graphiques dédiées et d'un processeur non NPU.

Le marché des PC IA en est encore à ses débuts avec l'arrivée des premiers ordinateurs portables équipés de NPU, mais le processus de développement de fonctionnalités et d'applications IA avance à petits pas, avec peu de ressources disponibles pour les utilisateurs en général.

Dans notre Examen du Galaxy Book4 Pro, un ordinateur portable avec un processeur Intel Core Ultra 7 et sans GPU dédié, nous mentionnons que l'utilisation pratique du NPU pourrait être plus visible dans les fonctionnalités d'appel vidéo et l'efficacité énergétique. Cependant, ce sont des points qui peuvent également être constatés sur les ordinateurs portables sans NPU, même ceux lancés avant 2023.

L'importance d'une carte graphique (GPU) pour l'IA

Pour comprendre ce sujet, comprenons les différences entre Processeur e GPU.

Les deux composants servent à traiter des tâches sur un ordinateur, et la principale différence entre les Processeur et GPU sont les activités auxquelles ils sont destinés. UN Processeur - ou Unité centrale de traitement - se concentre sur l'exécution des activités générales d'un ordinateur, telles que l'exécution du système d'exploitation lui-même et de toutes ses applications. Il est communément défini comme le « cerveau » d'un ordinateur et, sans lui, il ne fonctionnerait même pas : cela va de la navigation sur le Web à la création de feuilles de calcul.

A GPU suffisant pour fournir le support dont le CPU a besoin pour s'occuper d'activités plus complexes, en exécutant efficacement les activités graphiques. Acronyme anglais de Processeur graphique (et populairement connu sous le nom de carte vidéo), le GPU accélère le traitement des images grâce à des milliers de cœurs plus petits et plus spécialisés, qui travaillent ensemble pour offrir des performances dans les tâches graphiques.

De nombreux processeurs, notamment ceux destinés aux ordinateurs portables, ont un GPU intégré, qui fait partie du processeur. Cette application convient aux PC à usage général, qui ne nécessitent pas de traitement graphique plus intensif. Mais lorsque nous avons un traitement d'image intensif, comme dans les jeux et le montage d'images et de vidéos, le GPU dédié (Ou GPU discret) fait toute la différence.

Le GPU peut diriger toute sa puissance vers des tâches spécifiques, telles que les jeux et même le rendu de contenu de haute qualité, ce qui augmente la puissance de traitement et facilite l'exécution d'activités robustes sur l'ordinateur sur lequel il est installé, offrant une plus grande vitesse et efficacité dans ce type. de tâche.

Et pourquoi utiliser le GPU pour l’IA ? NVIDIA souligne trois raisons :

• Les GPU utilisent un traitement parallèle ;
• Les systèmes GPU peuvent évoluer jusqu'aux niveaux de supercalcul ;
• Le développement de logiciels d’IA pour les GPU est consolidé.

Activités intelligence artificielle nécessitent un haut niveau de calculs spécialisés. En regroupant les instructions et en traitant de grandes quantités de données, les GPU dédiés peuvent accélérer les charges de travail au-delà des capacités d'un processeur. Pour aller plus loin, NVIDIA déclare lui-même que Investir dans un notebook avec une carte dédiée est plus intéressant que d'investir dans un modèle avec un NPU intégré.

Un exemple de l’importance des GPU dédiés aux activités d’IA est le ChatGPT: Le célèbre robot de création de contenu qui écrit, résout des problèmes et crée même des images fonctionne sur la base de plates-formes GPU.

A OpenAI a conclu un partenariat avec NVIDIA afin que son grand modèle de langage puisse être utilisé par plus de 100 millions de personnes. L'information la plus récente est que GPT-4, maintenant mis à jour par GPT-4o, avait plus d'un billion de paramètres, une mesure de sa densité mathématique – un bond par rapport aux moins de 100 millions de paramètres dans un LLM populaire en 2018, rendu possible grâce aux GPU.

Cela dit, si vous êtes une personne qui travaille dans la création de contenu, passe beaucoup d'appels vidéo ou aime même beaucoup jouer, vous aurez certainement besoin de ressources en intelligence artificielle pour être plus performant. Et cela vaut pour tout :

• Effets d'appel vidéo pour réduire le bruit externe et flouter les arrière-plans ;
• Avoir accès à la technologie DLSS e Lancer de rayons;
• Pouvoir ouvrir les photos plus rapidement ;
• Rendu du contenu vidéo (vertical ou horizontal) ;
• Utilisation de certaines IA pour remplir des images, effectuer une mise à l'échelle ou même une conversion de format vidéo ;
• Pouvoir exporter du contenu en moins de temps.

Le gros avantage de l’utilisation d’une carte graphique réside dans le traitement des tâches d’IA en moins de temps. À l'invitation de NVIDIA, suivez les tests ci-dessous comparant l'utilisation du GPU et du CPU/NPU pour les activités d'IA pour connaître les résultats et tirer vos conclusions.

Comparaisons entre GPU et. CPU/NPU pour l'IA

Comparons maintenant la façon dont le GPU se compare dans l'exécution des tâches d'IA par rapport au NPU, créé spécifiquement à cet effet. Vérifiez la méthodologie et les résultats des tests.

Comment nous effectuons les tests

Pour réaliser ces tests, nous passerons par plusieurs applications et jeux qui utilisent le GPU pour offrir de meilleures performances. UN NVIDIA, en partenariat avec Avell, j'ai prêté le cahier A65 ION avec processeur Intel Core i9-12900HX de 12e génération, avec une carte vidéo dédiée NVIDIA GeForce RTX 4060 et 16 Go de RAM (divisés en deux sticks de 8 Go) de type DDR5.

Pour garantir des performances maximales, nous branchons l'ordinateur portable sur une prise de courant. Nous avons ensuite analysé les performances des ressources pour voir si, même sans NPU, les activités d’IA fonctionneraient de la même manière. Pour les tests, la résolution vidéo était de 2560 1600 × 240 XNUMX, avec un taux de rafraîchissement atteignant XNUMX Hz.

la carte vidéo RTX 4060 présent dans le portable effectue 233 billions d’opérations par seconde. À titre de comparaison, consultez les numéros de fonctionnement de tous les modèles de la série RTX 40 pour les ordinateurs portables NVIDIA :

• RTX 4050 : 194TOPS de performances ;
• RTX 4060 : 233 TOPS de performances ;
• RTX 4070 : 321 TOPS de performances ;
• RTX 4080 : 521 TOPS de performances ;
• RTX 4090 : 686 TOPS de performances.

L'ordinateur portable est équipé d'un SSD NVME de 500 Go. Nous avons effectué toutes les mises à jour du système d'exploitation pour que l'appareil soit dans sa version la plus complète, de même pour les pilotes GPU.

Chat

Il s'agit d'un assistant personnel développé par NVIDIA qui, à l'avenir, pourrait être un concurrent intéressant pour des options telles que Copilote, à partir Microsoft. Le plus intéressant est qu'il fonctionne localement exclusivement sur un ordinateur portable ou un ordinateur de bureau doté de cartes graphiques NVIDIA dédiées.

Il fonctionne mieux comme organisateur d'informations, mais il peut lire les fichiers enregistrés dans le stockage de votre ordinateur, ce qui peut être d'une grande aide pour ceux qui souhaitent avoir accès à des résumés.

Si vous n'avez jamais utilisé cette application, n'oubliez pas que vous devrez la former à partir de zéro, afin que les meilleures fonctionnalités soient visibles à long terme. Mais c'est une application qui permet d'avoir un assistant personnel qui fonctionne localement et sans avoir besoin d'une connexion Internet.

Toile NVIDIA

C'est l'application exclusive pour ceux qui aiment dessiner avec la souris, toucher l'écran ou même via le tableau blanc avec un stylo. Avec Canvas, vous n'avez pas besoin d'être un artiste : créez simplement un croquis avec des formes simples et sans détails pour que le programme crée une image détaillée. L'application fonctionne uniquement sur les ordinateurs ou notebooks dotés de cartes dédiées de NVIDIA, non disponible pour les ordinateurs dotés uniquement de NPU.

Le plus intéressant est que, grâce à la carte vidéo dédiée avec traitement local, les résultats peuvent être vus en temps réel. En plus de donner vie à vos gribouillages, vous pouvez changer complètement un dessin d'une seule touche.

Le temps d'apparition du résultat à l'écran est inférieur à une seconde et le changement de thème s'effectue également en quelques millièmes de seconde. Lorsque vous avez terminé les dessins, exportez-les simplement vers une application d'édition et terminez votre travail.

Diffusion NVIDIA

C'est l'une des applications qui permettent le plus de comparer avec ce qu'un NPU peut faire jusqu'à la clôture de cet article. Comme nous l'avons déjà dit dans notre article spécial sur cette application, il fonctionne comme un excellent assistant pour ceux qui passent beaucoup d'appels vidéo et de diffusions en direct, en réduisant le bruit audio et vidéo.

En analysant l'utilisation des processeurs avec NPU lancés en 2023, tout est encore très basique. Les puces axées sur les activités de l'IA peuvent même brouiller l'arrière-plan et également effectuer une mise au point automatique, mais rien de plus. Il n'y a pas de réduction du bruit, de commutation d'arrière-plan native et même d'utilisation de vignette, qui sont des fonctionnalités présentes dans NVIDIA Broadcast.

Cela dit, c'est un fait : le Diffusion NVIDIA, qui ne fonctionne que sur les ordinateurs portables et de bureau équipés de cartes graphiques NVIDIA, est beaucoup plus avancé.

Focus

C'est l'outil qui utilise le diffusion stable comme base pour générer des images localement sur l'ordinateur, sans avoir besoin d'Internet. Vous vous demandez peut-être si Windows Copilot et ChatGPT ne peuvent plus créer d'images, n'est-ce pas ? Oui, ils le peuvent, mais il est quand même nécessaire d'avoir une connexion internet pour que ces outils fonctionnent, ce qui n'est pas nécessaire avec Fooocus. Voir cette photo créée par la commande « un éléphant sur la plage par une journée ensoleillée » :

Développée pour fonctionner sur des ordinateurs portables et des ordinateurs dotés de cartes graphiques dédiées, cette application fonctionne en utilisant le GPU comme base et vous pouvez désactiver Internet pour l'utiliser. Et les images sont impressionnantes : en 57 secondes, on reçoit des photos d'une qualité à la limite du réalisme, le tout réalisé localement. Regarder:

Même s’ils disposent d’une puce uniquement axée sur les activités d’IA, les processeurs dotés de 2023 NPU ont encore besoin de plus de performances pour effectuer le traitement local. Qui sait, peut-être que cela changera avec le lancement de Copilote + PC standard de Microsoft, mais attendons l'avenir pour avoir des réponses.

Procyon

Réaliser des tests avec NPU est un peu difficile pour le moment car, comme nous sommes dans la première phase d'implémentation de cette technologie, les applications optimisées pour cette fonctionnalité sont encore rares. Cependant, grâce au Vision de référence en IA da Procyon, il a été possible de remarquer la différence, car il peut mesurer le traitement de l'IA sur les GPU et les NPU.

Pour commencer, le Galaxy Book4 Ultra, avec processeur Intel Core Ultra 9, lancé en 2023 et doté d’un NPU dédié, a réalisé 494 points.

Déjà Avell A55 ION nous avons obtenu, en utilisant la carte graphique pour les activités d'IA, que nous avons obtenu plus que cela. Ils étaient Points 539, une performance presque 10% plus élevé. La photo ci-dessous montre les résultats obtenus avec le notebook branché, dans son mode hautes performances.

Ce simple benchmark nous montre donc qu'une carte graphique qui atteint plus de 200 TOPS est plus intéressante qu'un processeur avec moins de 50 TOPs de performances via NPU.

Ressources Adobe

Ici, nous avons une évidence : il existe plusieurs caractéristiques du Photoshop et Lightroom qui ne fonctionnent que sur des ordinateurs portables dotés de cartes vidéo dédiées, tels que des filtres pour supprimer le bruit, coloriser les photos en noir et blanc, entre autres.

Avec des cartes vidéo de NVIDIA, qui a accès à Photoshop peut utiliser le Filtres neuronaux, qui permettent de modifier les expressions faciales, l'orientation de l'éclairage et même de faire paraître les gens plus jeunes (ou plus âgés). Tout cela se fait via l'IA, mais avec le support de la carte graphique et sans avoir besoin d'un NPU.

Certains outils, comme luciole d'adobe ou Remplissage génératif (Remplissage Génératif), exécutés directement à partir des serveurs Adobe (ainsi que Windows Copilot et ChatGPT, de leurs sociétés respectives).

En d'autres termes : avoir un ordinateur avec une NPU peut vous aider à accéder aux outils de correction d'image, mais avoir une carte vidéo dédiée est plus important pour une plus grande productivité au quotidien grâce au traitement local.

Conclusion

En arrivant à la fin de cette comparaison, il est facile de comprendre qu'un ordinateur portable ou un ordinateur doté de carte vidéo dédiée a plus de performances d'IA qu'un ordinateur portable avec Unité centrale de traitement dédiée, appelé AI PC. Et les raisons sont nombreuses.

Premièrement, les cartes vidéo ont un le plus grand nombre de TOPS performances que les NPU, permettant à certaines applications d’IA de s’exécuter localement et sans avoir besoin d’une connexion Internet. Ceci est bénéfique dans plusieurs tâches : génération de texte et d'images, correction de photos, effets d'appels vidéo et même dans les jeux, grâce à des fonctionnalités telles que Ray Tracing et DLSS.

Un autre facteur qui profite aux ordinateurs équipés d'un GPU est le niveau élevé disponibilité des applications et fonctionnalités pour ces modèles. En plus des applications exclusives de NVIDIA, les principaux acteurs du marché technologique ont déjà développé (et développent encore) des moyens de tirer parti des hautes performances des GPU dédiés.

Les NPU promettent un large accès aux capacités de l'IA, mais au moment de la publication de ce contenu, il n'était possible de tester leurs performances que dans les effets d'appels vidéo. Il y a encore un manque d'applications à tester pour les nouveaux processeurs NPU, mais il est prometteur que de nouvelles applications commenceront à émerger en grand nombre.

En revanche, point très positif concernant ceux traités avec du NPU (qu'ils soient fabriqués par Qualcomm, Intel ou AMD) c'est qu'ils ont un une dépense énergétique moindre, quelque chose d'essentiel pour ceux qui ont besoin de plus de temps loin de la prise. Nos tests de batterie avec le Galaxy Book4 Ultra Ils ont montré une utilisation de six heures, quelque chose d'incroyable par rapport aux générations précédentes.

Les ordinateurs portables dotés d'un GPU dédié nécessitent plus d'énergie pour le niveau de performances qu'ils offrent, consommant donc plus de batterie et limitant votre temps passé loin des prises.

Le choix entre les deux types d’ordinateurs portables dépend donc de la réponse à la question suivante : avez-vous besoin d’un ordinateur portable qui offrira des performances d’IA élevées tout en consommant plus d’énergie, ou préférez-vous un modèle avec une plus grande autonomie électrique et moins de performances d’IA ? La réponse à cette question dépendra en grande partie du type d’utilisateur que vous êtes en fait.

Si vous êtes une personne qui n'utiliserait pas autant les ressources de l'IA et qui préfère avoir un ordinateur portable qui consomme peu d'énergie, le choix se porte sur un carnet avec processeur doté d'un NPU. Maintenant, si tu en as besoin traitement de tâches d'IA élevé dans votre vie quotidienne, la meilleure recommandation est d'opter pour un PC avec GPU dédié.

Avez-vous compris le sujet ? Quel est votre type préféré ? Avec GPU dédié ou NPU intégré ? Dites-nous Commenter!

Voir aussi

NVIDIA critique les PC IA, affirmant que les ordinateurs portables équipés de cartes graphiques sont plus puissants

Qui est NVIDIA, l'entreprise qui vaut 10 XNUMX milliards de reais

NVIDIA critique les PC IA, affirmant que les ordinateurs portables équipés de cartes graphiques sont plus puissants

Qui est NVIDIA, l'entreprise qui vaut 10 XNUMX milliards de reais

Avec informations : Stockage pur l Analytique Vidhya l Systèmes Puget l ASUS l Explosion de froid l Bureau automatique l PC World l Quora l NVIDIA

Revu par Glaucon Vital le 18/6/24.