Index
Mit dem Fortschritt von künstliche und der Start von KI-PCs Laut Angaben von Computerherstellern dürfte das Thema im Jahr 2024 eines der meistdiskutierten Themen in der Technologiewelt sein. NPUs sind zu wichtigen Akteuren bei der Verarbeitung von KI-Arbeitslasten geworden, aber benötigen Sie wirklich einen PC, der mit dieser Funktion ausgestattet ist, um KI-Aktivitäten auszuführen?
auf Einladung von NVIDIAWir haben getestet, wie ein Notebook damit ausgestattet ist dedizierte Grafikkarte führt KI-Aufgaben auch ohne einen Prozessor aus, der nicht für die Kategorie KI-PCs geeignet ist. Nachfolgend erfahren Sie, was für diejenigen, die täglich mit KI arbeiten, am wichtigsten ist: CPU ou GPU.
Was ist ein KI-PC?
Der Begriff wurde eingeführt von Intel und Microsoft mit der Einführung der Prozessorfamilie Intel Core Ultra. In 2023 wird die Microsoft gab an, dass ein Computer als klassifiziert werden soll AIPC, es muss drei Anforderungen erfüllen. Sind sie:
- Habe einen Schlüssel Copilot um das zu aktivieren künstliche auf Ihrer Tastatur;
- Fähigkeit, künstliche Intelligenz auszuführen Copilot, anwesend in Windows 11;
- Habe einen Prozessor mit NPU gewidmet, die mindestens erreicht 40 TOPs (Billionen Operationen pro Sekunde)
Uma NPU ist ein spezieller Bereich des Prozessors, der sich auf Aktivitäten im Bereich der künstlichen Intelligenz konzentriert. In der Praxis erhält der Prozessor einen weiteren Chip, sodass sich CPU und GPU ihren Hauptaufgaben widmen können. Diese Komponenten können sogar die NPU unterstützen, KI-Aktivitäten werden jedoch im Wesentlichen in der NPU abgewickelt.
Prozessoren mit dieser NPU werden außerdem mit einer besseren Energieeffizienz beworben, die bei Bedarf eine längere Akkulaufzeit ohne Leistungseinbußen ermöglicht. Das ist der große Unterschied zwischen den Zeilen GalaxyBook3 e Buch4, gestartet von Samsung.
Im Mai von 2024, dem Microsoft hat eine eigene Kategorie von KI-PCs erstellt, die den Namen trägt Copilot+ PC, mit einem höheren TOPS-Leistungsbedarf für KI-Aktivitäten. Als a zu betrachten Copilot+ PC, ein Computer muss die folgenden Anforderungen erfüllen:
- Verfügen Sie über mindestens 16 GB RAM-Speicher;
- Verfügen Sie über einen Speicher von mindestens 256 GB per SSD;
- Verfügen Sie über eine integrierte NPU mit mindestens 40 TOPS der Leistung;
- Besitzen Sie einen Schlüssel für künstliche Intelligenz Copilot auf der Tastatur;
- Es gibt keine Kerbe auf dem Display.
Computer zertifiziert als Copilot+ PC wurden im Wesentlichen entwickelt, um mit Computern gleichzuziehen Macaus Apple. Eines der ersten angekündigten Modelle waren Laptops Oberfläche, für sich Microsoft, die über Prozessoren verfügen Snapdragon X Eliteaus Qualcomm. Sehen Sie sich die TOPS-Leistung der in diesem Jahr eingeführten NPU-Prozessorlinien an:
- AMD Ryzen AI 300: bis zu 50 TOPS Leistung;
- Intel Lunar Lake: bis zu 48 Leistungsspitzen;
- Snapdragon X Elite: bis zu 45 TOPS Leistung.
TOPS ist die Abkürzung für Billionen Operationen pro Sekundeoder Billionen Operationen pro Sekunde. Dies ist der Parameter zur Messung der Fähigkeit der NPU, künstliche Intelligenz auf Prozessoren zu verarbeiten. Hier gilt die Grundregel: Je mehr TOPS eine NPU hat, desto mehr Kapazität muss sie für die Durchführung von KI-Aktivitäten haben.
Aber verfügen frühere Notebooks nicht über künstliche Intelligenz?
Es gibt etwas, mit dem Prozessorhersteller nicht rechnen: Dedizierte Grafikkarten weisen bereits eine TOPS-Leistung auf, die weit über den Anforderungen für KI-PCs liegt, und bieten ihren Benutzern mehr Produktivität bei Aufgaben der künstlichen Intelligenz, selbst auf Computern ohne NPU.
Allerdings ist die Definition von Microsoft für KI-PCs e Copilot+ PCs erlaubt es diesen Computern mit hoher KI-Leistung nicht, diese Klassifizierungen zu erhalten, gerade weil sie nicht über eine integrierte NPU verfügen. Und hier kommen wir in die Diskussion, dass die NVIDIA hat mitgeteilt: Computer mit künstlicher Intelligenz gab es schon, bevor Unternehmen wie Samsung, Lenovo, ASUS und sie selbst Microsoft Beginnen Sie, unter diesen Bedingungen zu investieren.
Die Definition soll eine Kategorie schaffen, aber das Fehlen einer NPU schließt nicht aus, dass ein PC mit einer leistungsstarken GPU für Aufgaben mit künstlicher Intelligenz eingesetzt wird. Tatsächlich hindert Sie nichts daran, Anwendungen mit KI-Funktionen auf PCs mit dedizierten Grafikkarten und einem Nicht-NPU-Prozessor auszuführen.
Der KI-PC-Markt befindet sich mit der Einführung der ersten Notebooks mit NPU noch in den Kinderschuhen, aber der Prozess der Entwicklung von KI-Funktionen und -Anwendungen schreitet nur in kleinen Schritten voran, wobei den Benutzern im Allgemeinen nur wenige Ressourcen zur Verfügung stehen.
In unserer Testbericht zum Galaxy Book4 Pro, ein Notebook mit Prozessor Intel Core Ultra 7 Und ohne eine dedizierte GPU erwähnen wir, dass sich der praktische Nutzen der NPU bei Videoanruffunktionen und Energieeffizienz deutlicher bemerkbar machen könnte. Dies sind jedoch Punkte, die auch bei Notebooks ohne NPU zu sehen sind, selbst wenn diese vor 2023 auf den Markt kamen.
Die Bedeutung einer Grafikkarte (GPU) für KI
Um dieses Thema zu verstehen, lassen Sie uns die Unterschiede zwischen verstehen CPU e GPU.
Die beiden Komponenten dienen der Bearbeitung von Aufgaben auf einem Computer und sind der wesentliche Unterschied zwischen den beiden Komponenten CPU und GPU sind die Tätigkeiten, für die sie bestimmt sind. A CPU - Woher Zentraleinheit – konzentriert sich auf die Ausführung allgemeiner Aktivitäten eines Computers, beispielsweise auf die Ausführung des Betriebssystems selbst und aller seiner Anwendungen. Es wird allgemein als das „Gehirn“ eines Computers definiert und ohne es würde es nicht einmal funktionieren: Es reicht vom Surfen im Internet bis zum Erstellen von Tabellenkalkulationen.
A GPU genug, um die Unterstützung bereitzustellen, die die CPU benötigt, wenn sie sich um komplexere Aktivitäten kümmert und grafische Aktivitäten effizient ausführt. Englisches Akronym für Grafikkarte (und im Volksmund bekannt als Grafikkarte) beschleunigt die GPU die Bildverarbeitung durch Tausende kleinerer, spezialisierterer Kerne, die zusammenarbeiten, um Leistung bei Grafikaufgaben zu liefern.
Viele Prozessoren – insbesondere solche für Notebooks – verfügen über einen Integrierte GPU, das Teil des Prozessors ist. Diese Anwendung eignet sich für Allzweck-PCs, die keine intensivere Grafikverarbeitung erfordern. Aber wenn wir eine intensive Bildverarbeitung haben, wie zum Beispiel bei Spielen und Bild- und Videobearbeitung, ist die Engagierte GPU (oder Diskrete GPU) macht den Unterschied.
Die GPU kann ihre gesamte Leistung auf bestimmte Aufgaben wie Spiele und sogar das Rendern hochwertiger Inhalte richten, wodurch die Rechenleistung erhöht und die Ausführung robuster Aktivitäten auf dem Computer, auf dem sie installiert ist, erleichtert wird, was bei dieser Art zu höherer Geschwindigkeit und Effizienz führt der Aufgabe.
Und warum die GPU für KI nutzen? NVIDIA nennt drei Gründe:
- GPUs nutzen Parallelverarbeitung;
- GPU-Systeme können auf Supercomputing-Niveau skaliert werden;
- Die KI-Softwareentwicklung für GPUs wird konsolidiert.
Aktivitäten künstliche erfordern ein hohes Maß an Spezialberechnungen. Durch die Stapelverarbeitung von Anweisungen und die Verarbeitung großer Datenmengen können dedizierte GPUs Arbeitslasten beschleunigen, die über die Fähigkeiten einer CPU hinausgehen. Wenn wir tiefer gehen, gibt NVIDIA selbst an, dass dies der Fall ist Die Investition in ein Notebook mit dedizierter Karte ist interessanter als die Investition in ein Modell mit integrierter NPU.
Ein Beispiel für die Bedeutung dedizierter GPUs für KI-Aktivitäten ist die ChatGPT: Der berühmte Content-Creation-Bot, der schreibt, Probleme löst und sogar Bilder erstellt, funktioniert auf Basis von GPU-Plattformen.
A OpenAI ist eine Partnerschaft mit NVIDIA eingegangen, damit sein großes Sprachmodell von mehr als 100 Millionen Menschen genutzt werden kann. Die neuesten Informationen sind, dass die GPT-4, jetzt aktualisiert von GPT-4overfügte über mehr als eine Billion Parameter, ein Maß für seine mathematische Dichte – ein Sprung gegenüber den weniger als 100 Millionen Parametern in einem beliebten LLM im Jahr 2018, der durch GPUs ermöglicht wurde.
Das heißt, wenn Sie eine Person sind, die sich mit der Erstellung von Inhalten beschäftigt, viele Videoanrufe tätigt oder sogar gerne viel spielt, benötigen Sie auf jeden Fall Ressourcen für künstliche Intelligenz, um eine bessere Leistung zu erzielen. Und das gilt für alles:
- Videoanrufeffekte zur Reduzierung von Außengeräuschen und Unschärfe im Hintergrund;
- Zugang zu Technologie haben DLSS e Ray Tracing;
- Fotos schneller öffnen können;
- Rendern von Videoinhalten (vertikal oder horizontal);
- Verwendung von KI zum Füllen von Bildern, zum Hochskalieren oder sogar zur Konvertierung von Videoformaten;
- Inhalte in kürzerer Zeit exportieren können.
Der große Vorteil bei der Verwendung einer Grafikkarte besteht darin, dass KI-Aufgaben in kürzerer Zeit erledigt werden können. Auf Einladung von NVIDIABefolgen Sie die folgenden Tests und vergleichen Sie die Verwendung von GPU und CPU/NPU für KI-Aktivitäten, um die Ergebnisse herauszufinden und Ihre Schlussfolgerungen zu ziehen.
Vergleiche zwischen GPU vs. CPU/NPU für KI
Vergleichen wir nun, wie die GPU bei der Ausführung von KI-Aufgaben im Vergleich zur NPU abschneidet, die speziell für diesen Zweck erstellt wurde. Überprüfen Sie die Methodik und die Testergebnisse.
Wie wir die Tests durchführen
Um diese Tests durchzuführen, werden wir mehrere Anwendungen und Spiele durchgehen, die die GPU nutzen, um eine bessere Leistung zu liefern. A NVIDIA, in partnerschaft mit Avell, lieh das Notizbuch A65 ION mit Prozessor Intel Core i9-12900HX der 12. Generation, mit einer dedizierten Grafikkarte NVIDIA GeForce RTX 4060 und 16 GB RAM (aufgeteilt auf zwei 8-GB-Sticks) vom Typ DDR5.
Um maximale Leistung zu gewährleisten, schließen wir das Notebook an eine Steckdose an. Anschließend haben wir die Ressourcenleistung analysiert, um zu sehen, ob KI-Aktivitäten auch ohne NPU die gleiche Leistung erbringen würden. Zum Testen betrug die Videoauflösung 2560 x 1600, mit einer Bildwiederholfrequenz von 240 Hz.
die Grafikkarte RTX 4060 Die im Notebook vorhandene Rechenleistung führt 233 Billionen Operationen pro Sekunde aus. Sehen Sie sich zum Vergleich die Betriebszahlen aller Modelle der RTX-40-Serie für NVIDIA-Laptops an:
- RTX 4050: 194 TOPS an Leistung;
- RTX 4060: 233 Leistungsspitzen;
- RTX 4070: 321 Leistungsspitzen;
- RTX 4080: 521 Leistungsspitzen;
- RTX 4090: 686 TOP-Leistungen.
Das Notebook ist mit einer 500 GB NVME SSD ausgestattet. Wir haben alle Betriebssystem-Updates durchgeführt, um das Gerät in der vollständigsten Version zu halten, ebenso wie die GPU-Treiber.
Chat RTX
Dies ist ein persönlicher Assistent, der von entwickelt wurde NVIDIA was in Zukunft ein interessanter Konkurrent für Optionen wie sein könnte Copilotaus Microsoft. Das Interessanteste ist, dass es lokal ausschließlich auf einem Notebook oder Desktop mit dedizierten NVIDIA-Grafikkarten läuft.
Es funktioniert am besten als Informationsorganisator, kann aber auch Dateien lesen, die in Ihrem Computerspeicher gespeichert sind, was eine große Hilfe für diejenigen sein kann, die Zugriff auf Zusammenfassungen haben möchten.
Wenn Sie diese Anwendung noch nie verwendet haben, sollten Sie bedenken, dass Sie sie von Grund auf trainieren müssen, damit Sie langfristig die besten Funktionen nutzen können. Aber es handelt sich um eine Anwendung, die Ihnen einen persönlichen Assistenten ermöglicht, der lokal und ohne Internetverbindung ausgeführt wird.
NVIDIA-Leinwand
Dies ist die exklusive Anwendung für diejenigen, die gerne mit der Maus zeichnen, den Bildschirm berühren oder sogar über das Whiteboard mit einem Stift. Mit Canvas müssen Sie kein Künstler sein: Erstellen Sie einfach eine Skizze mit einfachen Formen und ohne Details, damit das Programm ein detailliertes Bild erstellt. Die Anwendung läuft nur auf Computern oder Notebooks mit dedizierten Karten von NVIDIA, nicht verfügbar für Computer, die nur über NPU verfügen.
Das Interessanteste ist, dass die Ergebnisse aufgrund der dedizierten Grafikkarte mit lokaler Verarbeitung in Echtzeit sichtbar sind. Sie erwecken Ihre Kritzeleien nicht nur zum Leben, sondern können eine Zeichnung auch mit nur einer Berührung komplett verändern.
Die Zeit, bis das Ergebnis auf dem Bildschirm erscheint, beträgt weniger als eine Sekunde und auch der Themenwechsel erfolgt in wenigen Tausendstelsekunden. Wenn Sie mit den Zeichnungen fertig sind, exportieren Sie sie einfach in eine Bearbeitungsanwendung und beenden Sie Ihre Arbeit.
NVIDIA-Übertragung
Dies ist eine der Anwendungen, die am ehesten einen Vergleich mit dem ermöglicht, was eine NPU leisten kann, bis dieser Artikel geschlossen ist. Wie wir bereits in unserem gesagt haben Sonderartikel zu dieser AnwendungEs ist ein großartiger Assistent für diejenigen, die viele Videoanrufe und Live-Übertragungen tätigen, indem es das Rauschen sowohl im Audio- als auch im Videobereich reduziert.
Wenn man die Verwendung von Prozessoren mit NPU analysiert, die im Jahr 2023 eingeführt wurden, ist alles noch sehr einfach. Chips, die sich auf KI-Aktivitäten konzentrieren, können sogar den Hintergrund verwischen und auch einen automatischen Fokus durchführen, mehr aber auch nicht. Es gibt keine Rauschunterdrückung, keine native Hintergrundumschaltung und sogar die Verwendung von Vignetten, die Funktionen von NVIDIA Broadcast sind.
Das heißt, es ist eine Tatsache: die NVIDIA-Übertragung, das nur auf Notebooks und Desktops mit NVIDIA-Grafikkarten funktioniert, ist deutlich ausgereifter.
Fokus
Dies ist das Tool, das das verwendet stabile Diffusion als Grundlage für die Generierung von Bildern lokal am Computer, ohne dass ein Internet erforderlich ist. Sie fragen sich vielleicht, ob Windows Copilot und ChatGPT keine Bilder mehr erstellen können, oder? Ja, das können sie, aber es ist dennoch eine Internetverbindung erforderlich, damit diese Tools funktionieren, was bei diesen Tools nicht erforderlich ist Fooocus. Sehen Sie sich dieses Foto an, das mit dem Befehl „Ein Elefant am Strand an einem sonnigen Tag“ erstellt wurde:
Diese Anwendung wurde für die Ausführung auf Notebooks und Computern mit dedizierten Grafikkarten entwickelt und verwendet die GPU als Basis. Sie können das Internet deaktivieren, um sie zu verwenden. Und die Bilder sind beeindruckend: In 57 Sekunden erhalten wir hochwertige Fotos, die an Realismus grenzen, und das alles vor Ort. Sehen:
Obwohl sie über einen Chip verfügen, der ausschließlich auf KI-Aktivitäten ausgerichtet ist, benötigen Prozessoren mit 2023 NPU immer noch mehr Leistung, um lokale Verarbeitung durchzuführen. Wer weiß, vielleicht ändert sich das mit der Einführung von Copilot + PC-Standard von Microsoft, aber warten wir auf die Zukunft, um Antworten zu finden.
Procyon
Die Durchführung von Tests mit NPU ist derzeit etwas schwierig, da wir uns in der ersten Phase der Implementierung dieser Technologie befinden und für diese Funktion optimierte Anwendungen noch rar sind. Allerdings durch die KI-Benchmark-Vision da Procyonkonnte der Unterschied festgestellt werden, da die KI-Verarbeitung sowohl auf GPUs als auch auf NPUs gemessen werden kann.
Zu Beginn die Galaxy Book4 Ultra, mit Prozessor Intel Core Ultra 9, im Jahr 2023 eingeführt und mit einer dedizierten NPU, erreicht 494 Punkte.
Schon Avell A55 ION Beim Einsatz der Grafikkarte für KI-Aktivitäten haben wir mehr erreicht. Sie waren 539 Punkte, eine Leistung fast 10% höher. Das Foto unten zeigt die Ergebnisse, die bei angeschlossenem Notebook im Hochleistungsmodus erzielt wurden.
Daher zeigt uns dieser einfache Benchmark, dass eine Grafikkarte, die mehr als 200 TOPS erreicht, interessanter ist als ein Prozessor mit weniger als 50 TOPs Leistung über NPU.
Adobe-Ressourcen
Hier haben wir das Offensichtliche: Es gibt mehrere Merkmale des Photoshop und Lightroom die nur auf Notebooks mit dedizierter Grafikkarte laufen, z. B. Filter zum Entfernen von Rauschen, Einfärben von Fotos in Schwarzweiß usw.
Mit Grafikkarten von NVIDIA, wer Zugriff darauf hat Photoshop kann das nutzen Neuronale Filter, die es ermöglichen, Gesichtsausdrücke und Lichtausrichtung zu ändern und Menschen sogar jünger (oder älter) erscheinen zu lassen. Dies geschieht alles über KI, jedoch mit Unterstützung der Grafikkarte und ohne die Notwendigkeit einer NPU.
Einige Werkzeuge, wie Adobe-Glühwürmchen ou Generative Füllung (Generative Füllung), laufen direkt von Adobe-Servern (sowie Windows Copilot und ChatGPT von ihren jeweiligen Unternehmen).
Mit anderen Worten: Ein Computer mit einer NPU kann Ihnen den Zugriff auf Bildkorrekturtools erleichtern, eine dedizierte Grafikkarte ist jedoch für eine höhere Produktivität im Alltag aufgrund der lokalen Verarbeitung wichtiger.
Fazit
Am Ende dieses Vergleichs ist es leicht zu verstehen, dass ein Notebook oder Computer mit dedizierte Grafikkarte hat mehr KI-Leistung als ein Notebook mit Dedizierte NPU, genannt AI PC. Und die Gründe sind vielfältig.
Erstens haben Grafikkarten eine höchste Anzahl an TOPS Leistung als NPUs, sodass einige KI-Anwendungen lokal und ohne die Notwendigkeit einer Internetverbindung ausgeführt werden können. Dies ist bei mehreren Aufgaben von Vorteil: Text- und Bildgenerierung, Fotokorrektur, Videoanrufeffekte und sogar in Spielen durch Funktionen wie Ray Tracing und DLSS.
Ein weiterer Faktor, der Computern mit GPU zugute kommt, ist die hohe Leistung Verfügbarkeit von Anwendungen und Funktionalitäten für diese Modelle. Zusätzlich zu NVIDIAs eigenen exklusiven Anwendungen haben große Player auf dem Technologiemarkt bereits Möglichkeiten entwickelt (und entwickeln diese noch), um die hohe Leistung dedizierter GPUs zu nutzen.
NPUs versprechen einen breiten Zugang zu KI-Funktionen, aber zum Zeitpunkt der Veröffentlichung dieses Inhalts war es nur möglich, ihre Leistung bei Videoanrufeffekten zu testen. Es mangelt immer noch an Anwendungen für neue NPU-Prozessoren, die getestet werden sollen, aber es besteht die Aussicht, dass neue Anwendungen in großer Zahl auftauchen werden.
Andererseits gibt es einen sehr positiven Punkt bei denen, die mit NPU verarbeitet wurden (unabhängig davon, ob sie von hergestellt wurden). Qualcomm, Intel ou AMD) ist, dass sie eine haben geringerer Energieaufwand, etwas Unverzichtbares für diejenigen, die mehr Zeit außerhalb der Steckdose brauchen. Unsere Batterietests mit dem Galaxy Book4 Ultra Sie zeigten eine Nutzungsdauer von sechs Stunden, was im Vergleich zu früheren Generationen unglaublich ist.
Notebooks mit einer dedizierten GPU benötigen für die von ihnen erbrachte Leistung mehr Energie, verbrauchen daher mehr Akku und verkürzen die Zeit ohne Steckdosen.
Die Wahl zwischen den beiden Notebook-Typen hängt also von der Antwort auf die folgende Frage ab: Benötigen Sie ein Notebook, das eine hohe KI-Leistung bei gleichzeitig höherem Energieverbrauch liefert, oder bevorzugen Sie ein Modell mit größerer Energieautonomie und weniger KI-Leistung? Die Antwort auf diese Frage hängt tatsächlich stark von der Art des Benutzers ab, der Sie sind.
Wenn Sie eine Person sind, die KI-Ressourcen nicht so häufig nutzen würde und lieber ein Notebook haben würde verbraucht wenig Energie, die Wahl ist ein Notizbuch mit Prozessor, der über eine NPU verfügt. Wenn Sie jetzt eines brauchen hohe KI-Aufgabenverarbeitung In Ihrem täglichen Leben ist die beste Empfehlung, sich für einen PC mit zu entscheiden Engagierte GPU.
Haben Sie das Thema verstanden? Was ist dein Lieblingstyp? Mit dedizierter GPU oder integrierter NPU? Erzähl uns Kommentar!
Siehe auch
NVIDIA kritisiert KI-PCs und sagt, dass Notebooks mit ihren Grafikkarten leistungsstärker seien
Wer ist NVIDIA, das Unternehmen mit einem Wert von 10 Billionen R$?
Mit Informationen: Reine Lagerung l Analytics-Vidhya l Puget-Systeme l ASUS l Chill-Blast l Automatischer Schreibtisch l PC World l Quora l NVIDIA
Rezensiert von Glaukon Vital in 18 / 6 / 24.
Erfahren Sie mehr über Showmetech
Melden Sie sich an, um unsere neuesten Nachrichten per E-Mail zu erhalten.
Tolle Analyse zu CPU, GPU und NPU in Notebooks! Um die beste Lösung auszuwählen, ist es entscheidend, die Art der Verwendung zu berücksichtigen. Bei anspruchsvollen Aufgaben wie Videobearbeitung oder KI können eine leistungsstarke GPU und NPU einen großen Unterschied machen. Darüber hinaus können Softwarekompatibilität und -optimierung die Leistung erheblich beeinflussen. Hat jemand Erfahrung mit dem Mischen dieser Komponenten in einem Notebook? Teilen Sie uns mit, wie es Ihren spezifischen Anforderungen entsprach!“