Contenido Exclusivo

¿Quiénes son los Mejores 20 CISO de México 2024?

La noche del pasado viernes 27 de septiembre CIO...

VIDEO: Escalabilidad, seguridad y latencia: los 3 desafíos de la IA en redes de datos

Emilio Madero, Vicepresidente Ejecutivo de Marketing en Cirion Technologies,...

NVIDIA GPU A100 de 80 GB potencia el supercómputo con IA

NVIDIA presentó la GPU NVIDIA A100 de 80 GB, la cual potencia la plataforma de súper cómputo NVIDIA HGX. Cuenta con el doble de memoria que la generación anterior, por lo que brinda a los ingenieros e investigadores un rendimiento y una velocidad sin precedentes para desbloquear la próxima ola de avances científicos y de inteligencia artificial (IA).

La nueva A100 con la tecnología HBM2e duplica la memoria de alto ancho de banda de la GPU A100 de 40 GB a 80 GB; además ofrece más de 2 terabytes por segundo de ancho de banda de memoria. Esto permite que los datos se envíen rápidamente a la A100. De esta manera, los investigadores pueden acelerar sus aplicaciones todavía más y trabajar con modelos y conjuntos de datos aún más grandes.

Se espera que los principales proveedores de sistemas, como Atos, Dell, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta y Supermicro, comiencen a ofrecer sistemas desarrollados con las placas base integradas HGX A100 con configuraciones de cuatro (4) u ocho (8) GPUs A100 de 80 GB en la primera mitad del 2021.

Para el entrenamiento de IA, los modelos de sistemas de recomendación como DLRM tienen enormes tablas que representan miles de millones de usuarios y cientos de millones de productos. El A100 de 80 GB ofrece una aceleración de hasta tres veces, por lo que las empresas pueden reentrenar rápidamente estos modelos para brindar recomendaciones altamente precisas.

Este GPU también permite el entrenamiento de los modelos más grandes con más parámetros que se ajustan a un solo servidor con HGX, como GPT-2, un modelo de procesamiento de idiomas naturales con capacidad de texto generativo sobrehumano. Esto elimina la necesidad de datos o modelos de arquitecturas paralelas que pueden llevar mucho tiempo de implementar y ralentizar su ejecución en varios nodos.

Gracias a su tecnología de GPU de instancias múltiples (MIG), la A100 se puede particionar en hasta siete instancias de GPU, cada una con 10 GB de memoria. Esto proporciona un aislamiento de hardware seguro y maximiza la utilización de la GPU para una variedad de cargas de trabajo más pequeñas. Para la inferencia de IA de modelos de reconocimiento automático de voz como RNN-T, una sola instancia de MIG A100 de 80 GB puede dar servicio a lotes mucho más grandes, lo que ofrece un rendimiento de inferencia 1.25 veces mayor en producción.

Para aplicaciones científicas, como la previsión meteorológica y la química cuántica, la A100 de 80 GB puede ofrecer una enorme aceleración. Quantum Espresso, una simulación de materiales logró un rendimiento cerca de 2 veces con un solo nodo de A100 de 80 GB.

Lo Más Reciente

Seis recomendaciones para lograr la verdadera transformación digital en su empresa

Actualmente, vivimos en mundo globalizado que se caracteriza por...

La IA “impacta la ciberseguridad en el sector público”, advierten

Contar con Inteligencia Artificial (IA) disminuye las posibilidades de...

¿Qué acciones realizar para que las nuevas generaciones permanezcan en las empresas?

En un entorno laboral cada vez más competitivo, atraer...

Ocho de cada 10 personas están dispuestas a boicotear a una compañía: estudio YouGov

¿Qué tan activistas se consideran los consumidores? De acuerdo...

Newsletter

Recibe lo último en noticias e información exclusiva.

Seis recomendaciones para lograr la verdadera transformación digital en su empresa

Actualmente, vivimos en mundo globalizado que se caracteriza por ser cambiante, veloz y tecnológico, donde la digitalización, los conocimientos técnicos y la implementación de...

La IA “impacta la ciberseguridad en el sector público”, advierten

Contar con Inteligencia Artificial (IA) disminuye las posibilidades de un ataque, o al menos reduce el impacto que puede tener un ataque. Los ciberataques son...

¿Qué acciones realizar para que las nuevas generaciones permanezcan en las empresas?

En un entorno laboral cada vez más competitivo, atraer y conservar a los Millennials y a la Generación Z se ha convertido en unos...