CPU o GPU/NPU: ¿qué importa más al elegir un portátil para IA?

Con el avance de inteligencia artificial y el lanzamiento de PC con IA Por parte de los fabricantes de ordenadores, el tema debería ser uno de los más comentados en el mundo de la tecnología en 2024. NPU se han convertido en actores clave en el procesamiento de cargas de trabajo de IA, pero ¿realmente necesitas una PC equipada con esta función para realizar actividades de IA?

Por invitación de NVIDIA, probamos cómo un portátil equipado con tarjeta de video dedicada realiza tareas de IA incluso sin un procesador que no califica para la categoría de PC con IA. Comprenda a continuación lo que es más importante para quienes trabajan con IA a diario: CPU ou GPU.

¿Qué es una PC con IA?

El término comenzó a ser implementado por Intel y Microsoft con el lanzamiento de la familia de procesadores intel core ultra. En 2023, el Microsoft afirmó que para que una computadora sea clasificada como AIPC, debe cumplir tres requisitos. Son ellos:

• tener una llave Copilot para activar el inteligencia artificial en tu teclado;
• Capacidad para ejecutar inteligencia artificial. Copilotpresente en Windows 11;
• Tener un procesador con NPU dedicado que alcance al menos TOP 40 (billones de operaciones por segundo)

Una NPU Es un área dedicada del procesador enfocada a actividades de inteligencia artificial. En la práctica, el procesador gana otro chip para que la CPU y la GPU se dediquen a sus actividades principales. Estos componentes pueden incluso brindar soporte a la NPU, pero las actividades de IA esencialmente se procesarán en la NPU.

También se anuncia que los procesadores con esta NPU tienen una mejor eficiencia energética, ofreciendo una mayor duración de la batería cuando es necesario, sin necesidad de perder rendimiento. Esta es la gran diferencia entre las líneas. libro galaxia3 e Book4, lanzado por Samsung.

En mayo de 2024, el Microsoft creó su propia categoría de PC con IA, que toma el nombre de Copiloto+ PC, con un requisito de rendimiento TOPS más alto para las actividades de IA. Para ser considerado un Copiloto+ PC, una computadora debe cumplir los siguientes requisitos:

• Tener al menos 16 GB de memoria RAM;
• Tener almacenamiento de al menos 256 GB vía SSD;
• Tener una NPU integrada con al menos 40 TOPS de desempeño;
• Tener una llave dedicada a la inteligencia artificial Copilot en el teclado;
• No hay ninguna muesca en la pantalla.

Computadoras certificadas como Copiloto+ PC fueron creados básicamente para ponerse al día con las computadoras Mac, De Verde. Uno de los primeros modelos anunciados fueron los portátiles. Superficie, de su propia Microsoft, que tienen procesadores Snapdragon X Elite, De Qualcomm. Vea el rendimiento TOPS en las líneas de procesadores NPU lanzadas este año:

• AMD Ryzen AI 300: hasta 50 TOPS de rendimiento;
• Lago lunar Intel: hasta 48 TOP de rendimiento;
• Snapdragon X Elite: hasta 45 TOPS de rendimiento.

TOPS  es el acrónimo de Billones de operaciones por segundoo Billones de operaciones por segundo. Este es el parámetro para medir la capacidad de la NPU para procesar inteligencia artificial en procesadores. Aquí, la regla básica es la siguiente: cuantos más TOPS tenga una NPU, mayor capacidad tendrá para ejecutar actividades de IA. 

¿Pero los portátiles anteriores no tienen inteligencia artificial?

Hay algo con lo que los fabricantes de procesadores no cuentan: las tarjetas de video dedicadas ya tienen un rendimiento TOPS muy por encima de lo requerido para las PC con IA, ofreciendo más productividad en tareas de inteligencia artificial para sus usuarios incluso en computadoras que no cuentan con NPU.

Sin embargo, la definición de Microsoft para  PC con IA e PC copiloto+ no permite que estos equipos con alto rendimiento en IA reciban estas clasificaciones, precisamente porque no tienen una NPU integrada. Y aquí entramos en la discusión de que el NVIDIA ha estado comunicando: las computadoras con inteligencia artificial existían incluso antes de que empresas como Samsung, Lenovo, ASUS y ella misma Microsoft Empiece a invertir en estos términos.

La definición pretendía crear una categoría, pero no tener una NPU no descarta que una PC con una GPU potente pueda usarse en tareas que involucren inteligencia artificial. De hecho, nada le impedirá ejecutar aplicaciones con capacidades de IA en PC con tarjetas gráficas dedicadas y un procesador que no sea NPU.

El mercado de PC con IA aún se encuentra en sus primeras etapas con la llegada de los primeros portátiles con NPU, pero el proceso de desarrollo de funciones y aplicaciones de IA está dando pequeños pasos, con pocos recursos disponibles para los usuarios en general.

En nuestro Revisión del Galaxy Book4 Pro, un portátil con procesador Intel Core Ultra 7 y sin una GPU dedicada, mencionamos que el uso práctico de la NPU podría notarse más en funciones de videollamadas y eficiencia energética. Sin embargo, estos son puntos que también se pueden ver en los portátiles sin NPU, incluso aquellos lanzados antes de 2023.

La importancia de una tarjeta gráfica (GPU) para la IA

Para entender este tema, comprendamos las diferencias entre CPU e GPU.

Los dos componentes sirven para procesar tareas en una computadora, y la principal diferencia entre los CPU y GPU son las actividades a las que están destinados. A CPU - Donde Unidad Central de procesamiento — está enfocado a realizar las actividades generales de una computadora, como ejecutar el propio sistema operativo y todas sus aplicaciones. Comúnmente se define como el “cerebro” de una computadora y, sin él, ni siquiera funcionaría: abarca desde navegar por la web hasta crear hojas de cálculo.

A GPU suficiente para brindar el soporte que la CPU necesita a la hora de encargarse de actividades más complejas, ejecutando actividades gráficas de manera eficiente. acrónimo en inglés de Unidad de procesamiento gráfico (y conocido popularmente como Tarjeta de video), la GPU acelera el procesamiento de imágenes a través de miles de núcleos más pequeños y especializados, que trabajan juntos para ofrecer rendimiento en tareas gráficas.

Muchos procesadores (especialmente aquellos destinados a portátiles) tienen una GPU integrada, que es parte del procesador. Esta aplicación es adecuada para PC de uso general, que no requieren un procesamiento de gráficos más intensivo. Pero cuando tenemos un procesamiento intensivo de imágenes, como en los juegos y en la edición de imágenes y vídeos, el tarjeta gráfica dedicada (o tarjeta gráfica discreta) marca la diferencia.

La GPU puede dirigir toda su potencia a tareas específicas, como juegos e incluso renderizado de contenidos de alta calidad, lo que aumenta la potencia de procesamiento y facilita la ejecución de actividades robustas en el ordenador en el que está instalada, entregando mayor velocidad y eficiencia en este tipo. de tarea.

¿Y por qué utilizar la GPU para IA? NVIDIA señala tres razones:

• Las GPU emplean procesamiento paralelo;
• Los sistemas GPU pueden escalar a niveles de supercomputación;
• Se consolida el desarrollo de software de IA para GPU.

Actividades inteligencia artificial requieren un alto nivel de cálculos especializados. Al agrupar instrucciones por lotes y procesar grandes cantidades de datos, las GPUS dedicadas pueden acelerar cargas de trabajo más allá de las capacidades de una CPU. Profundizando más, la propia NVIDIA afirma que Invertir en un portátil con tarjeta dedicada es más interesante que invertir en un modelo con NPU integrada.

Un ejemplo de la importancia de las GPU dedicadas para las actividades de IA es la ChatGPT: El famoso bot de creación de contenidos que escribe, resuelve problemas e incluso crea imágenes funciona basado en plataformas GPU.

A OpenAI se asoció con NVIDIA para que su modelo de lenguaje grande pueda ser utilizado por más de 100 millones de personas. La información más reciente es que el GPT-4, ahora actualizado por GPT-4o, tenía más de un billón de parámetros, una métrica de su densidad matemática, un salto con respecto a los menos de 100 millones de parámetros en un popular LLM en 2018, posible gracias a las GPU.

Dicho esto, si eres una persona que trabaja en la creación de contenidos, haces muchas videollamadas o incluso te gusta mucho jugar, definitivamente necesitarás recursos de inteligencia artificial para rendir mejor. Y eso vale para todo:

• Efectos de videollamada para reducir el ruido externo y desenfocar fondos;
• Tener acceso a la tecnología DLSS e Trazado de rayos;
• Poder abrir fotos más rápido;
• Renderizar contenido de video (vertical u horizontal);
• Uso de algo de IA para rellenar imágenes, realizar escalado o incluso conversión de formato de vídeo;
• Pudiendo exportar contenidos en menos tiempo.

La gran ventaja de utilizar una tarjeta gráfica es procesar las tareas de IA en menos tiempo. Por invitación de NVIDIA, siga las pruebas a continuación comparando el uso de GPU y CPU/NPU para actividades de IA para conocer los resultados y sacar sus conclusiones.

Comparaciones entre GPU vs. CPU/NPU para IA

Ahora, comparemos cómo se compara la GPU al realizar tareas de IA con la NPU, creada específicamente para este propósito. Consulta la metodología y los resultados de las pruebas.

Cómo realizamos las pruebas

Para realizar estas pruebas, revisaremos varias aplicaciones y juegos que utilizan la GPU para ofrecer un mejor rendimiento. A NVIDIAen colaboración con la Comisión Avell, prestó el cuaderno A65 iones con procesador Intel Core i9-12900HX de 12.ª generación, con una tarjeta de video dedicada NVIDIA GeForce RTX 4060 y 16 GB de RAM (repartidos en dos sticks de 8 GB) de tipo DDR5.

Para garantizar el máximo rendimiento, conectamos el portátil a una toma de corriente. Luego analizamos el rendimiento de los recursos para ver si, incluso sin una NPU, las actividades de IA funcionarían igual. Para las pruebas, la resolución del vídeo fue de 2560×1600, con una frecuencia de actualización que alcanzó los 240Hz.

la tarjeta de video RTX 4060 presente en el portátil realiza 233 billones de operaciones por segundo. A modo de comparación, consulte los números operativos de todos los modelos de la serie RTX 40 para portátiles NVIDIA:

• RTX 4050: 194TOPS de rendimiento;
• RTX 4060: 233 TOPS de rendimiento;
• RTX 4070: 321 TOPS de rendimiento;
• RTX 4080: 521 TOPS de rendimiento;
• RTX 4090: 686 TOPS de rendimiento.

El portátil está equipado con un SSD NVME de 500 GB. Realizamos todas las actualizaciones del sistema operativo para que el dispositivo estuviera en su versión más completa, lo mismo con los drivers de la GPU.

Chat RTX

Este es un asistente personal desarrollado por NVIDIA que, en el futuro, podría ser un competidor interesante para opciones como Copilot, De Microsoft. Lo más interesante es que se ejecuta localmente exclusivamente en una computadora portátil o de escritorio con tarjetas gráficas NVIDIA dedicadas.

Funciona mejor como organizador de información, pero puede leer archivos guardados en el almacenamiento de su computadora, lo que puede ser de gran ayuda para quienes deseen tener acceso a resúmenes.

Si nunca has usado esta aplicación, vale la pena recordar que necesitarás entrenarla desde cero, así las mejores características se verán a largo plazo. Pero es una aplicación que te permite tener un asistente personal que se ejecuta de forma local y sin necesidad de conexión a internet.

Lienzo NVIDIA

Esta es la aplicación exclusiva para quienes gustan de dibujar con el mouse, tocar la pantalla o incluso a través de la pizarra con un bolígrafo. Con Canvas no necesitas ser un artista: basta con crear un boceto con formas simples y sin detalles para que el programa cree una imagen detallada. La aplicación sólo se ejecuta en ordenadores o portátiles con tarjetas dedicadas de NVIDIA, no disponible para computadoras que solo tienen NPU.

Lo más interesante es que, gracias a la tarjeta de vídeo dedicada con procesamiento local, los resultados se pueden ver en tiempo real. Además de darle vida a tus garabatos, puedes cambiar completamente un dibujo con solo un toque.

El tiempo que tarda en aparecer el resultado en pantalla es inferior a un segundo y el cambio de tema también se produce en unas milésimas de segundo. Cuando termines los dibujos, simplemente expórtalos a una aplicación de edición y termina tu trabajo.

Transmisión de NVIDIA

Esta es una de las aplicaciones que más permiten comparar con lo que puede hacer una NPU hasta que se cierre este artículo. Como ya hemos dicho en nuestro artículo especial sobre esta aplicación, funciona como un gran asistente para quienes realizan muchas videollamadas y transmisiones en vivo, al reducir el ruido tanto en audio como en video.

Analizando el uso de procesadores con NPU lanzados en 2023, todo sigue siendo muy básico. Los chips enfocados a actividades de IA pueden incluso difuminar el fondo y también realizar un enfoque automático, pero nada más. No hay reducción de ruido, cambio de fondo nativo e incluso el uso de viñeta, que son características presentes en NVIDIA Broadcast.

Dicho esto, es un hecho: el Transmisión de NVIDIA, que sólo funciona en portátiles y ordenadores de sobremesa con tarjetas gráficas NVIDIA, es mucho más avanzado.

Enfoque

Esta es la herramienta que utiliza el difusión estable como base para generar imágenes localmente en el ordenador, sin necesidad de internet. Quizás se pregunte si Windows Copilot y ChatGPT ya no pueden crear imágenes, ¿verdad? Sí, pueden, pero aún así es necesario tener una conexión a Internet para que estas herramientas funcionen, lo cual no es necesario con Fooocus. Vea esta foto creada con el comando “un elefante en la playa en un día soleado”:

Desarrollada para ejecutarse en portátiles y ordenadores con tarjetas gráficas dedicadas, esta aplicación funciona utilizando la GPU como base y puedes desactivar Internet para utilizarla. Y las imágenes son impresionantes: en 57 segundos recibimos fotografías de alta calidad que rozan el realismo, todas realizadas localmente. Vea:

Aunque tienen un chip centrado únicamente en actividades de IA, los procesadores con NPU 2023 todavía necesitan más rendimiento para realizar el procesamiento local. Quién sabe, tal vez esto cambie con el lanzamiento de Copiloto + PC estándar de Microsoft, pero esperemos que el futuro tenga respuestas.

Procyon

Realizar pruebas con NPU es un poco complicado en estos momentos porque, al estar en la primera fase de implementación de esta tecnología, las aplicaciones optimizadas para esta característica aún son escasas. Sin embargo, a través de la Visión de referencia de IA da Procyon, fue posible notar la diferencia, ya que puede medir el procesamiento de IA tanto en GPU como en NPU.

Para empezar, el Galaxy Book4 Ultra, con procesador Intel Core Ultra 9, lanzado en 2023 y con una NPU dedicada, logró 494 puntos.

Ya en Avell A55 ION que recibimos, al usar la tarjeta gráfica para actividades de IA, logramos más que eso. Ellos eran 539 puntos, una actuación casi 10% más alto. La foto siguiente muestra los resultados obtenidos con el portátil enchufado, en su modo de alto rendimiento.

Por tanto, este sencillo benchmark nos demuestra que una tarjeta gráfica que alcanza más de 200 TOPS es más interesante que un procesador con menos de 50 TOPS de rendimiento vía NPU.

Recursos de Adobe

Aquí tenemos lo obvio: hay varias características del Photoshop y Lightroom que sólo funcionan en portátiles con tarjetas de vídeo dedicadas, como filtros para eliminar ruido, colorear fotografías a blanco y negro, entre otros.

Con tarjetas de video de NVIDIA, que tiene acceso a Photoshop puede utilizar el Filtros neuronales, que permiten cambiar las expresiones faciales, la orientación de la iluminación e incluso hacer que las personas parezcan más jóvenes (o mayores). Todo esto sucede mediante IA, pero con el apoyo de la tarjeta gráfica y sin necesidad de una NPU.

Algunas herramientas, como luciérnaga de adobe ou Relleno generativo (Relleno generativo), se ejecuta directamente desde los servidores de Adobe (así como Windows Copilot y ChatGPT, de sus respectivas empresas).

En otras palabras: tener una computadora con una NPU puede ayudarte a acceder a herramientas de corrección de imágenes, pero tener una tarjeta de video dedicada es más importante para una mayor productividad diaria debido al procesamiento local.

Conclusión

Al final de esta comparación, es fácil entender que una computadora portátil o computadora con tarjeta de video dedicada tiene más rendimiento de IA que un portátil con Unidad de energía nuclear dedicada, llamado AI PC. Y las razones son muchas.

En primer lugar, las tarjetas de video tienen un mayor número de TOPS rendimiento que las NPU, lo que permite que algunas aplicaciones de IA se ejecuten localmente y sin la necesidad de una conexión a Internet. Esto resulta beneficioso en varias tareas: generación de textos e imágenes, corrección de fotografías, efectos de videollamadas e incluso en juegos, a través de funciones como Ray Tracing y DLSS.

Otro factor que beneficia a los ordenadores con GPU es la alta disponibilidad de aplicaciones y funcionalidades para estos modelos. Además de las aplicaciones exclusivas de NVIDIA, los principales actores del mercado tecnológico ya han desarrollado (y siguen desarrollando) formas de aprovechar el alto rendimiento de las GPU dedicadas.

Las NPU prometen un amplio acceso a las capacidades de IA, pero al momento de publicar este contenido, solo era posible probar su rendimiento en efectos de videollamadas. Todavía faltan aplicaciones para probar nuevos procesadores NPU, pero hay promesas de que comenzarán a surgir nuevas aplicaciones en grandes cantidades.

Por otro lado, un punto muy positivo de los procesados ​​con NPU (ya sean fabricados por Qualcomm, Intel ou AMD) es que tienen un menor gasto energético, algo imprescindible para quienes necesitan más tiempo alejados del enchufe. Nuestra batería se prueba con el Galaxy Book4 Ultra Mostraron un aprovechamiento de seis horas, algo increíble comparado con generaciones anteriores.

Los portátiles con una GPU dedicada requieren más energía para el nivel de rendimiento que ofrecen, por lo que consumen más batería y limitan el tiempo alejado de los enchufes.

Entonces, la elección entre los dos tipos de portátiles depende de la respuesta a la siguiente pregunta: ¿necesita un portátil que ofrezca un alto rendimiento de IA y utilice más energía, o prefiere un modelo con mayor autonomía energética y menos rendimiento de IA? La respuesta a esta pregunta dependerá mucho del tipo de usuario que seas, de hecho.

Si eres una persona que no usaría tanto los recursos de IA y prefieres tener una computadora portátil que usa poca energía, la elección es un cuaderno con procesador que tiene una NPU. Ahora si necesitas uno alto procesamiento de tareas de IA en tu vida diaria, la mejor recomendación es optar por una PC con tarjeta gráfica dedicada.

¿Entendiste el tema? ¿Cuál es tu tipo favorito? ¿Con GPU dedicada o NPU integrada? Dinos Comentario!

Véase también

NVIDIA critica las PC con IA y dice que las portátiles con sus tarjetas gráficas son más potentes

¿Quién es NVIDIA, la empresa valorada en R$ 10 billones?

NVIDIA critica las PC con IA y dice que las portátiles con sus tarjetas gráficas son más potentes

¿Quién es NVIDIA, la empresa valorada en R$ 10 billones?

Con información: Almacenamiento puro l Analítica Vidhya l Puget Systems l ASUS l Explosión helada l Escritorio automático l PC World l Quora l NVIDIA

Revisado por Glaucón Vital en 18 / 6 / 24.