HPE anunció una solución de supercomputación para IA generativa diseñada para que las empresas grandes, instituciones de investigación y organizaciones gubernamentales aceleren el entrenamiento y optimización de los modelos de inteligencia artificial (IA) que utilizan conjuntos de datos privados. La solución consiste en un paquete de software que permite a los clientes entrenar y perfeccionar los modelos y desarrollar aplicaciones de IA Gen. La solución también incluye supercomputadoras con enfriamiento líquido, computación acelerada, interconexión, almacenamiento y servicios para ayudar a las organizaciones a liberar más rápido el valor de la IA.
Las herramientas de software para desarrollar aplicaciones de IA, personalizar los modelos previamente desarrollados, crear y modificar código, son componentes clave de esta solución de supercomputación para la IA gen. El software está integrado con la tecnología de supercomputación HPE Cray, que está basada en la misma arquitectura que se utiliza en una de las supercomputadoras más rápidas, e incorpora el Superchip NVIDIA GH200 Grace Hopper. Juntos, esta solución ofrece la escala y rendimiento que se requiere para las grandes cargas de trabajo de IA, tales como el entrenamiento de modelos de lenguaje de gran tamaño (LLM) y de modelos de recomendaciones de deep learning (DLRM).
Al utilizar el entorno de desarrollo de aprendizaje automático de HPE en este sistema, el modelo de código abierto Llama 2 con 70,000 millones de parámetros se optimizó en menos de 3 minutos.
Una solución de IA potente e integrada
La solución de supercomputación para IA generativa es una oferta nativa de IA específicamente diseñada que incluye las siguientes tecnologías y servicios integrales:
- Software de aceleración IA/ML – Un paquete de tres herramientas de software que ayudarán a los clientes a entrenar y optimizar los modelos de IA y desarrollar aplicaciones de IA por sí mismos.
- El entorno de desarrollo de aprendizaje automático de HP es una plataforma de aprendizaje automático (ML) que permite a los clientes desarrollar e implementar más rápido los modelos de IA gracias a que se integra en las estructuras de ML más populares y simplifica la preparación de los datos.
- NVIDIA AI Enterprise acelera el desarrollo de IA con seguridad, estabilidad, manejabilidad y soporte. Ofrece estructuras extensas, modelos previamente entrenados y herramientas que optimizan el desarrollo e implementación de IA de producción.
- El entorno de programación HPE Cray proporciona a los programadores una serie completa de herramientas para desarrollar, portar, depurar y perfeccionar el código.
- Diseñada para escalar – Basada en el sistema de exascale HPE Cray EX2500 y con Superchips NVIDIA GH200 Grace Hopper, la solución puede escalar hasta miles de unidades de procesamiento gráfico (GPU), con la habilidad de dedicar la capacidad total de nodos para soportar una sola carga de trabajo de IA y, de esa forma, acelerar el tiempo de obtención de valor. El sistema es el primero en incorporar la configuración de cuádruple nodo del Superchip GH200.
- Una red para IA en tiempo real – HPE Slingshot Interconnect ofrece una red abierta y de alto rendimiento basada en Ethernet diseñada para soportar las cargas de trabajo de exascale. Basada en la tecnología HPE Cray, esta interconexión adaptable impulsa el rendimiento de todo el sistema, ya que permite una red sumamente rápida.
- Simplicidad lista para usarse – La solución está complementada por HPE Complete Care Services, que ofrece especialistas globales para instalación, configuración y soporte de ciclo de vida para simplificar la adopción de IA.
Disponibilidad
La solución de supercomputación para IA generativa estará disponible en diciembre a través de HPE en más de 30 países.