No es ningún secreto que losrecientes avances en IA, incluidosChatGPTyStable Diffusion, son impresionantes. Pueden crear texto, imágenes, videos y más, todo basado en un mensaje de texto, con poca intervención del usuario. La otra cosa que tienen en común es que todos se ejecutan en la nube, por lo que están en la computadora de otra persona, y pueden ser costosos una vez que se tienen en cuenta las tarifas de suscripción. Para ahorrar algo de dinero, muchas tareas de IAse pueden ejecutar en su computadora de casa, desde los LLM hasta los conjuntos de datos que los entrenan.
Pero, ¿qué hardware necesitas exactamente para hacer funcionar estos algoritmos avanzados? Bueno, si bien no necesitas necesariamente lamejor CPUpara ejecutar tareas de aprendizaje profundo, probablemente necesitarás una de lasmejores tarjetas gráficas. Esto se debe a que la nueva tecnología en GPU, como los núcleos Tensor de Nvidia, están diseñados a medida para acelerar las tareas de IA. También necesitarás una gran cantidad de VRAM, para que más datos puedan ir a la memoria activa, lo que ahorra tiempo durante el entrenamiento. Es por eso que hemos elaborado esta lista de las mejores GPU para tareas de aprendizaje profundo, para que tus decisiones de compra sean más fáciles.
Nuestra selección de las mejores tarjetas gráficas para uso en aprendizaje profundo
MSI GeForce RTX 4070 Ti Super Ventus 3X
Mucha potencia a un precio relativamente asequible
La MSI GeForce RTX 4070 Ti Super Ventus 3X cuenta con núcleos Tensor de cuarta generación, diseñados específicamente para acelerar las tareas de IA. Es una forma rentable de adentrarse en los modelos de aprendizaje profundo y también tiene una gran cantidad de VRAM para seguir el ritmo de las tareas más exigentes.
- 264 núcleos Tensor de cuarta generación
- 16 GB de VRAM GDDR6X
- Disipador de calor enorme con tres ventiladores.
- Requiere una fuente de alimentación y refrigeración potentes
Una de las cosas más importantes a tener en cuenta al comprar una tarjeta gráfica para tareas de aprendizaje profundo es la cantidad de núcleos aceleradores de IA que tiene integrados. Estos núcleos, en caso de que te lo estés preguntando, pueden realizar una multiplicación de matrices muy eficiente, que es el tipo de cálculo que requiere más tiempo en cualquier red neuronal profunda. Como GPU de la serie 40 de Nvidia, la tarjeta RTX 4070 Ti Super viene con núcleos Tensor de cuarta generación, que son significativamente mejores que los núcleos Tensor de primera generación que se introdujeron con la tarjeta de servidor Tesla V100.
Análisis de la MSI GeForce RTX 4070 Ti Super Ventus 3x: la extraña hija del medio
Con su rendimiento mediocre, la RTX 4070 Ti está atravesando un momento incómodo.
Este modelo particular de la RTX 4070 Ti Super de MSI viene con 264 núcleos Tensor, que es un poco más de lo que se obtiene en la RTX 4070 Ti normal. Estos núcleos Tensor de cuarta generación son tan rápidos que permanecen inactivos aproximadamente la mitad del tiempo durante el entrenamiento de tamaño GPT-3, y el cuello de botella es la velocidad a la que pueden llegar los datos desde la memoria global. También tiene 16 GB de VRAM GDDR6X con un ancho de banda de 672 GB/s para llenar rápidamente los núcleos Tensor con datos. Puede que no ofrezca el tipo de rendimiento que esperarías ver en una tarjeta de servidor, pero debería ser suficiente para la mayoría de los casos de uso en laboratorios domésticos. La RTX 4070 Ti Super también es una mejor tarjeta gráfica en general en comparación con la RTX 4070 Ti, que destacamos anteriormente como la mejor opción.
Nvidia GeForce RTX 4070 Super FE
La GPU con núcleos Tensor de mejor precio
La Nvidia GeForce RTX 4070 Super es una excelente tarjeta de juegos de 1440p, pero también es perfecta para tareas de aprendizaje profundo como la generación de imágenes o la ejecución de LLM locales basados en texto, ya que tiene una gran cantidad de núcleos Tensor de cuarta generación y 12 GB de VRAM.
- 224 núcleos Tensor para acelerar los flujos de trabajo de IA
- 12 GB de GDDR6X que proporcionan 504,2 GB/s de ancho de banda
- Un disipador de calor de gran apariencia
- VRAM limitada para tareas de IA
La RTX 4070 Super comparte muchas similitudes con la RTX 4070 Ti Super, y eso significa que también tiene núcleos Tensor de cuarta generación que son cruciales para los flujos de trabajo de aprendizaje profundo. El modelo RTX 4070 Super Founder's Edition tiene 224 núcleos Tensor, lo que lo hace mejor que su predecesor, que habíamos elegido anteriormente como nuestra GPU con mejor relación calidad-precio. La caché L2 también se sitúa en unos respetables 48 MB, lo que es bastante bueno en general para una tarjeta como esta. Sin embargo, solo estás viendo 12 GB de VRAM GDDR6X con un ancho de banda de 504,2 GB/s, lo que puede no ser suficiente para la mayoría de las tareas de IA.
Análisis de la Nvidia GeForce RTX 4070 Super: la mejor GPU convencional ha mejorado
La Nvidia GeForce RTX 4070 Super aporta aún más valor a lo mejor de la serie 40.
La nueva y mejorada RTX 4070 Super FE también es más rápida y tiene más rendimiento que el modelo anterior, y eso definitivamente también marcará una diferencia en los flujos de trabajo acelerados por AT. En cuanto al rendimiento de esta GPU fuera de las tareas aceleradas por IA, la RTX 4070 Super FE es una muy buena opción a considerar, especialmente para aquellos que buscan algo para juegos de 1440p. Nos lo pasamos muy bien probando nuestra unidad de revisión y poniéndola a prueba, y pudo aguantar bastante bien en su mayor parte. También es relativamente fácil de alimentar y mantener esta GPU fría en todo momento, y también nos encanta el diseño general y la estética minimalista que Nvidia eligió para esta.
MSI Suprim Liquid X GeForce RTX 4090
Muchos núcleos VRAM y Tensor
La tarjeta MSI Suprim Liquid X GeForce RTX 4090 es una variante delgada y refrigerada por agua del modelo estrella de Nvidia, con un radiador de 240 mm para mantener la tarjeta fría bajo cualquier carga de trabajo. Eso será útil durante las tareas de IA, que pueden llevar un tiempo considerable en completarse.
- 512 núcleos Tensor de cuarta generación para tareas de IA
- 24 GB de VRAM con 1008 GB/s de ancho de banda
- Refrigerado por agua para un rendimiento térmico
- Requisito de potencia de 450 W
- Se necesita una caja grande para que quepa el radiador.
Cuando analizamos laNvidia GeForce RTX 4090en su versión Founder's Edition en el lanzamiento, la llamamos "el rey intocable del rendimiento". Eso se basó en cargas de trabajo de juegos, que demolió con una resolución de 4K y proporcionó suficiente potencia para juegos con resolución de 8K si tienes el monitor para mostrarlo. Ahora también viene con un TDP considerable de 450 W, pero vimos que no superó mucho los 400 W durante las cargas de juego, y con cargas de trabajo de IA que hacen que los núcleos Tensor permanezcan inactivos durante aproximadamente la mitad del tiempo, es una apuesta justa que no se acercará a ese TDP. La variante FE con disipador de calor y dos ventiladores se mantuvo por debajo de los 65 grados Celsius incluso con cargas de trabajo de 420 W, y este MSI Suprim Liquid X en particular viene con un enfriador de agua AIO con un radiador de 240 mm para absorber el calor del núcleo y la memoria. Espero que se mantenga muy por debajo de ese objetivo de 65 °C durante las cargas de trabajo, lo que significa que su costosa RTX 4090 durará más que si funcionara a mayor temperatura.
Análisis de la Nvidia GeForce RTX 4090: la reina intocable del rendimiento
No hay otra tarjeta gráfica como la Nvidia GeForce RTX 4090. Su potencia es inigualable, al igual que su tamaño y su consumo energético.
En cuanto a las cargas de trabajo de IA, la RTX 4090 tiene suficiente potencia para las cargas de trabajo más complicadas, como los transformadores para entrenar LLM, con 512 núcleos Tensor que proporcionan más del doble de potencia que la RTX 4070 Ti. Y con 24 GB de GDDR6X y un bus de memoria de 384 bits, aporta 1008 GB/s de ancho de banda para tus necesidades de aprendizaje profundo. Eso es el doble que la RTX 4070 Ti y dos tercios del ancho de banda de las GPU de clase servidor sustancialmente más caras con núcleos Tensor. No te equivoques, esta es la GPU a la que debes apuntar cuando haces aprendizaje profundo, y la única razón por la que no obtiene la primera opción en esta lista es que a menudo está agotada en todas partes, ya que las empresas las compran en palés para ejecutar sus propias tareas de IA.
Nvidia H100
Para tareas de nivel de servidor
La Nvidia H100 está diseñada específicamente para flujos de trabajo acelerados por IA en instalaciones de estaciones de trabajo o servidores, ya que no tiene puertos de salida de gráficos. Con 80 TB de VRAM, puede abordar tareas avanzadas como transformadores o entrenamiento de LLM para otros usos.
- 80 TB de VRAM
- PCIe 5.0
- 51 teraFLOPS de rendimiento FP32
- Cuesta tanto como un sedán de gama media.
- No hay ventiladores, por lo que hay que depender de los ventiladores del servidor.
La Nvidia H100 PCIe 80 GB es una de las últimas tarjetas gráficas profesionales centradas en la IA de la empresa, diseñada para procesar tareas aceleradas por IA en un entorno de servidor con hasta ocho de estas costosas GPU funcionando en paralelo.Según Tim Dettmers, ofrece el doble de rendimiento relativo que la RTX 4090, en tareas de entrenamiento de 16 bits, inferencia de 16 bits e inferencia de 8 bits. Con 456 núcleos Tensor y 2 TB/s de ancho de banda de memoria de 80 GB de memoria HBM3, también es la primera GPU que admite PCIe 5.0 para conexiones más rápidas a la placa base. También es compatible con NVLink, que conecta directamente las GPU entre sí, por lo que pasan por alto la placa base y la CPU al pasar datos entre ellas.
Con un TDP máximo de 350 W, se alimenta a través de un cable PCIe de 16 pines. La solución térmica de dos ranuras es pasiva, lo que se espera de una GPU de clase servidor como esta. Para usarla en una estación de trabajo de escritorio se necesitará algo de ingenio para que haya suficiente flujo de aire para mantenerla fresca. No es solo una solución de hardware, ya que viene con una suscripción de cinco años a Nvidia AI Enterprise, que es una plataforma de software de IA con todas las funciones y más de 100 marcos, modelos entrenados previamente para comenzar más rápido y más para ayudar a los profesionales de IA a hacer su trabajo. Esta es la cúspide actual de las GPU aceleradas por IA y es más versátil que lasunidades de procesamiento tensorial(TPU) que Google usa en Google Cloud para el entrenamiento de IA. El único inconveniente real de estas tarjetas gráficas es el precio, que es tanto como un automóvil familiar. Por otra parte, para las empresas que invierten en el entrenamiento de IA, lo único que importa es el tiempo en el que se puede realizar el entrenamiento de IA, y ahí es donde la H100 se destaca.
Nvidia Tesla V100
Computación con inteligencia artificial de nivel servidor a un precio asequible
La Tesla V100 fue la primera tarjeta gráfica que incorporó núcleos Tensor, diseñados para acelerar los flujos de trabajo de IA y los modelos de aprendizaje profundo. Tiene algunos años, pero aún es capaz y es un excelente punto de partida para crear un servidor para tareas de aprendizaje profundo.
- 16 GB de VRAM
- 640 núcleos Tensor de primera generación
- Requisito de potencia relativamente bajo de 350 W
- Sin refrigeración activa
- Sin salidas de pantalla
La Nvidia Tesla V100 fue la primera tarjeta gráfica en incorporar la arquitectura Volta y la primera con núcleos Tensor para acelerar los flujos de trabajo de IA. La GV100, por usar su nombre propio, tiene 672 núcleos Tensor para acelerar los cálculos de IA. Ahora bien, vale la pena mencionar que este núcleo Tensor de primera generación no es directamente comparable con los núcleos de segunda, tercera o cuarta generación, ya que se mejoraron y obtuvieron funcionalidad adicional con cada nueva versión. Aun así, son más núcleos Tensor que una RTX 4090 y, con 16 GB de memoria HBM2 con un ancho de bus de 4096 bits, alcanza los 897 GB/s de ancho de banda. Es una cantidad colosal y hará maravillas con las tareas de generación de imágenes.
Lamentablemente, tendrá problemas con los transformadores, ya que esas tareas se realizan mejor con al menos 24 GB de memoria para adaptarse a los enormes conjuntos de datos que necesitan, pero aún así lo ayudará a comenzar su viaje de aprendizaje profundo. También tiene una caché L2 relativamente baja de 6 MB, por lo que obtendrá datos de la memoria global con más frecuencia que las tarjetas gráficas más nuevas. Con un diseño de dos ranuras y refrigeración pasiva, el V100 se puede usar en estaciones de trabajo o servidores, siempre que se tenga en cuenta el flujo de aire. Está alimentado por dos conectores PCIe de 8 pines para una potencia total de la placa de 350 W.
GeForce RTX 3090 Trinity OC de Zotac Gaming
Muy capaz para el aprendizaje automático.
La Zotac Gaming GeForce RTX 3090 Trinity OC es la propuesta con mejor relación calidad-precio de la arquitectura Ampere, con muchos núcleos Tensor de tercera generación para acelerar las tareas de IA y 24 GB de VRAM para conjuntos de datos bastante grandes.
- 328 núcleos Tensor de tercera generación
- 24 GB de VRAM con 936,2 GB/s de ancho de banda
- Disipador de calor grande con tres ventiladores.
- Grosor de tres ranuras
La serie 3000 de Nvidia sigue siendo una fuerza capaz en tareas de IA y la GeForce RTX 3090 es una de las mejores, si es que puedes encontrar una a la venta en estos días. Este modelo de Zotac tiene una enorme memoria GDDR6X de 24 GB, que, cuando se combina con el bus de 384 bits, significa 936,2 GB/s de ancho de banda para un acceso rápido a la memoria para conjuntos de datos de aprendizaje profundo. Eso es más alto que la mayoría de las otras entradas de esta lista, pero tiene un precio acorde con el rendimiento. Con solo 6 MB de caché L2, obtendrá datos de la memoria global con más frecuencia, pero eso se verá ayudado por las enormes cifras de ancho de banda, por lo que el rendimiento no se verá tan afectado.
Las mejores GPU para juegos en 2024
La GPU es posiblemente la parte más importante de cualquier PC para juegos, por eso estamos aquí para ayudarte a elegir la correcta.
Con un TDP de 350 W alimentado por dos cables PCIe de 8 pines, será fácil de alimentar y no requerirá una nueva fuente de alimentación compatible con ATX 3.0 para funcionar. El gran disipador de calor de 3 ranuras y los tres ventiladores lo mantendrán fresco, especialmente con el ciclo de encendido/apagado de los núcleos Tensor mientras esperan que se alimente más información desde la memoria. Los núcleos Tensor más antiguos son menos potentes que los de la serie 4000 de Nvidia, pero el factor más importante de esta tarjeta son los 24 GB de VRAM, que permiten el uso de los últimos modelos LLM y, probablemente, los conjuntos de datos necesarios durante algún tiempo en el futuro. Esto se debe a que hasta que las GPU de consumo superen los 24 GB, los científicos de IA intentarán adaptar sus modelos a esa cantidad de memoria.
Tarjeta gráfica XFX Speedster MERC310 AMD Radeon RX 7900XTX negra de 24 GB
24 GB de VRAM y compatibilidad con ROCm
La XFX Speedster Merc310 AMD Radeon RX 7900XTX Black es una GPU monstruosa con 24 GB de VRAM que tiene compatibilidad reciente con PyTorch 2.0.1 y la plataforma de software abierta ROCm, lo que la hace viable para el aprendizaje profundo. La gran capacidad de memoria significa que es especialmente adecuada para entrenar modelos de lenguaje grandes (LLM).
- 192 aceleradores de IA
- 24 GB de VRAM con hasta 960 GB/s de ancho de banda
- Gran refrigerador con tres ventiladores.
- Soporte limitado de la comunidad ya que Nvidia está más extendida
La razón principal por la que la mayoría de las tarjetas gráficas de esta lista son de Nvidia es que los núcleos Tensor hacen una gran diferencia en la velocidad con la que las GPU pueden manejar tareas de aprendizaje profundo. Si bien las arquitecturas AMD anteriores como RDNA y RDNA2 tenían un gran silicio con un alto rendimiento FP16 y un alto ancho de banda de memoria, la falta de aceleradores de IA los convirtió en un fracaso para el uso profesional. Con RDNA3, AMD presentó los aceleradores de IA, su versión de núcleos Tensor, con 192 en el buque insigniaRadeon RX 7900 XTX. Con 24 GB de memoria GDDR6, un bus de 384 bits y 96 MB de caché L3, esta tarjeta gráfica podría obtener hasta 3500 GB/s de ancho de banda de memoria mientras usa Infinity Cache. Esos son los cuatro requisitos más importantes para las tareas de aprendizaje profundo cubiertas, y ya sabemos que AMD es bueno en el rendimiento FLOPS. La única pieza del rompecabezas que falta es el soporte de software, ya que todo el hardware del mundo no puede ayudarte sin algo que ejecutar en él.
Análisis de la AMD Radeon RX 7900 XTX: un avance sustancial para RDNA 3
AMD contraataca con las potentes GPU de la serie RTX 40 de NVIDIA.
Las GPU de AMD utilizan el softwareROCmpara proporcionar una forma de utilizar el marcoPyTorchampliamente utilizado para crear modelos de aprendizaje profundo. Hasta RDNA3, no tenía ninguna aceleración de IA para GPU de consumo, por lo que, si bien era utilizable, era más lento que las tarjetas gráficas alternativas al mismo precio. Ahora, con el lanzamiento deROCm 5.7.1 para Ubuntu Linux, dos GPU de consumo obtienen soporte para usar PyTorch 2.0.1 con aceleración; la Radeon RX 7900 XTX y la Radeon Pro W7900. Con los 24 GB de VRAM en esta tarjeta de XFX, tiene un amplio espacio para entrenar LLM u otras tareas de aprendizaje profundo.
ASRock Phantom Gaming Intel Arc A770
Sorprendentemente capaz, especialmente en tareas de generación de imágenes.
La ASRock Phantom Gaming Intel Arc A770 es la GPU discreta insignia de Intel, con 16 GB de VRAM para grandes conjuntos de datos y 512 núcleos Tensor de la versión Intel para acelerar los flujos de trabajo de IA.
- 16 GB de VRAM con 512 GB/s de ancho de banda
- 512 núcleos tensores de Intel
- Requisito de potencia relativamente bajo de 225 W
- ¿Necesita acceso a ReBar o Smart Access Memory para obtener el mejor rendimiento?
Si bien las tarjetas gráficas AMD recién hace poco tiempo recibieron soporte para aceleración de IA, las tarjetas Arc discretas de Intel llegaron con la versión propia de Tensor Cores de la compañía desde el principio. Estos núcleos se denominan Intel Xe Matrix Extensions Engines o Intel XMX Engines para abreviar. En el Intel Arc A770, viene con 512 XMX Engines, que se utilizan parael escalado de XeSSen juegos que lo admiten. También son aceleradores de IA de propósito general y se pueden utilizar para tareas de aprendizaje profundo. Y con 16 GB de VRAM con un ancho de banda decente de 512 GB/s, puedes usar modelos relativamente grandes para LLM o generación de imágenes.
Análisis del Intel Arc A770: esto es solo el principio
La GPU discreta insignia de Intel es perfectamente capaz de ofrecer un rendimiento sólido para tareas de aprendizaje profundo.
La nuevaextensión de matriz conjunta SYCLpermite que Intel XMX se pueda utilizar de la misma manera que los núcleos Tensor de Nvidia, acelerando los marcos de aprendizaje profundo como TensorFlow y bibliotecas como oneDNN. Intel tiene un sólido equipo de desarrolladores que ha estado creando herramientas de IA, controladores y un ecosistema completo de software de IA. Tienenguías detalladaspara hacer que el software de aprendizaje profundo, comoTensorFlow, se ejecute en las GPU Arc, o cualquier otra cosa que pueda necesitar saber. El único gran inconveniente es que necesita una placa base y una CPU relativamente nuevas que puedan admitirResizable BAR, como ha dicho Intel, el rendimiento de las GPU Arc no será excelente sin él.
Lo que necesita saber sobre la elección de una GPU para tareas de aprendizaje profundo
Al elegir una tarjeta gráfica para tareas de aprendizaje profundo, es importante saber qué especificaciones son relevantes y en qué orden son importantes. Una de las voces principales en hacer que el aprendizaje profundo sea más accesible esTim Dettmers, y usamos su consejo experto para elegir nuestras opciones. El factor principal debe ser la cantidad de núcleos Tensor, que solo se encuentran en las tarjetas gráficas Nvidia a partir de la arquitectura Volta en adelante, y en las tarjetas gráficas de consumo a partir de Ampere, la serie 3000 de Nvidia. Con la arquitectura Ada Lovelace, los núcleos Tensor están en su cuarta generación y, como se han mejorado cada vez, las tarjetas gráficas más recientes son las mejores para elegir. Luego entra en juego el ancho de banda de la memoria, luego las configuraciones de caché y, finalmente, los FLOPS. La otra cosa que hay que recordar es que la cantidad de VRAM dicta las tareas que puede ejecutar, siendo 12 GB un mínimo para la generación de imágenes y 24 GB para trabajar con transformadores.
Si recién estás comenzando a familiarizarte con las tareas de aprendizaje profundo, no querrás sumergirte en el agua. Es por eso que mi recomendación para comenzar es una Nvidia GeForce RTX 4070 Ti, como el modelo MSI Gaming X Slim. Con 12 GB de VRAM, tiene suficiente para cargas de trabajo de generación de imágenes, y los núcleos Tensor de cuarta generación procesarán las tareas, lo que te ahorrará tiempo. Para pasar a los transformadores o generar imágenes u otras salidas LLM más rápido, recomiendo cualquier modelo Nvidia GeForce RTX 4090 que puedas encontrar en stock, que actualmente es esta variante Gigabyte Gaming. Con 24 GB de VRAM, podrás usar conjuntos de datos más grandes, y el aumento de núcleos Tensor será notable. Las razones por las que es una compra tan buena para los usuarios domésticos también son por las que no puedes encontrar ninguno en stock, ya que las empresas los han estado comprando en masa para impulsar sus propias aspiraciones de IA.
Si el dinero no es un problema y estás generando ingresos importantes con tus tareas de aprendizaje profundo, la Nvidia H100 es la mejor GPU de clase servidor que puedes comprar como consumidor para acelerar las tareas de IA. Con 80 GB de VRAM, puedes usar conjuntos de datos significativamente más grandes cargados en la memoria, lo que abre el acceso a tareas que no puedes lograr en tarjetas de clase de escritorio. Y para completar tu equipo de aprendizaje profundo, querrás usar una de lasmejores placas basepara unir todo. Aquí, probablemente querrás buscar estabilidad y longevidad, ya que no correrás el riesgo de hacer overclocking, lo que sería desastroso si fallara a mitad de camino durante el entrenamiento de un modelo.
MSI GeForce RTX 4070 Ti Super Ventus 3X
La MSI RTX 4070 Ti Super Ventus 3X es nuestra elección como la mejor tarjeta gráfica en general que puedes comprar para tareas de aprendizaje profundo en 2024.