Dell y AMD se unen para presentar una expansión en la cartera de Soluciones de IA Generativa de Dell, ofreciendo a las empresas más opciones para expandir su oferta en GenAI. Dell PowerEdge XE9680 admitirá el próximo acelerador AMD Instinct MI300X, brindando más opciones en términos de rendimiento de IA.
El PowerEdge XE9680 con AMD Instinct MI300X ofrece capacidades de alto rendimiento para empresas que buscan desbloquear el valor de sus datos bajo modelos de lenguaje grandes personalizados (LLMs). Con ocho GPUs MI300X, 192 GB de memoria de alta velocidad de 5,3 TB/s (HBM3) por GPU para una capacidad total coherente de HBM3 de 1,5 TB por servidor y más de 600 TFLOPS 21 petaflops de rendimiento pico FP32FP16, el PowerEdge XE9680 con MI300X está listo para democratizar aún más el acceso a GenAI para empresas ansiosas de entrenar modelos más grandes, reducir la huella del centro de datos, disminuir el TCO y obtener una ventaja competitiva.
Dell también anuncia el próximo paso de las Soluciones de IA Generativa de Dell, facilitando que las organizaciones implementen GenAI confiable con el nuevo Diseño de Dell para IA Generativa con AMD. ROCm de AMD es un conjunto de controladores de código abierto, kits de herramientas de desarrollo y APIs para aceleradores AMD Instinct. Este nuevo Diseño Validado de Dell para IA Generativa incluirá LLMs de código abierto y hace que sea simple para los clientes de Dell construir plataformas GenAI adaptadas a sus necesidades, eliminando la incertidumbre en las consideraciones de integración, rendimiento y dimensionamiento.
Con el software Dell Open Manage Enterprise, ofrece simplificar y acelerar la implementación de la infraestructura GenAI, mientras que el software CloudIQ proporciona automatización inteligente desde cualquier lugar. El PowerEdge XE9680 está respaldado por recuperación cibernética integrada y un enfoque amplio de Confianza Cero para una mayor seguridad.
El PowerEdge XE9680 con MI300X aprovecha la Plataforma Infinity de AMD, alimentada por ocho aceleradores AMD Instinct MI300X, permitiendo una escalabilidad casi lineal y un entrenamiento GenAI distribuido de baja latencia con Interconexión Global de Memoria (xGMI) que abarca un clúster de servidores PowerEdge interconectando GPUs MI300X a través de una malla de inteligencia artificial basada en Ethernet con una malla de GPU validada por Dell con el Dell PowerSwitch Z9664F-ON.
El Dell PowerEdge XE9680 con Aceleradores AMD Instinct MI300X y el Diseño Validado de Dell para IA Generativa con AMD estarán disponibles en la primera mitad de 2024.