En el marco del evento “Advancing AI”, Microsoft, Meta, Oracle, Dell Technologies, HPE, Lenovo, Supermicro, Arista, Broadcom y Cisco mostraron cómo están trabajando con AMD para ofrecer soluciones avanzadas de IA que abarcan desde la nube y centros de datos hasta las empresas y los PCs.

AMD presentó su nueva oferta que incluye los aceleradores de IA para centros de datos AMD Instinct Serie MI300, la ROCm 6 open software stack con optimizaciones y nuevas funciones compatibles con Modelos de Lenguaje de Gran Tamaño (LLM) y los procesadores Ryzen Serie 8040 con Ryzen AI.

“La IA es el futuro de la computación y AMD impulsa la infraestructura integral que definirá esta era, desde instalaciones masivas en la nube hasta clústeres empresariales, dispositivos y PCs inteligentes habilitados para IA”, aseveró la Dra. Lisa Su, presidenta y CEO de AMD.  

Así es como está trabajando AMD con sus socios de negocio 

AMD estuvo acompañada por sus socios durante el evento para destacar la adopción y el creciente impulso de los aceleradores de IA para centros de datos AMD Instinct.

• Microsoft detalló cómo está desplegando los aceleradores AMD Instinct MI300X para alimentar la nueva Serie de Azure ND MI300x v5 Virtual Machine (VM) optimizadas para cargas de trabajo de IA.
• Meta compartió que la compañía está añadiendo aceleradores AMD Instinct MI300X a sus centros de datos en combinación con ROCm 6 para potenciar las cargas de trabajo de inferencia de IA y reconoció las optimizaciones de ROCm 6 que AMD ha realizado en la familia de modelos Llama 2.
• Oracle desveló sus planes para ofrecer soluciones informáticas OCI bare metal con aceleradores AMD Instinct MI300X, así como sus planes para incluir aceleradores AMD Instinct MI300X en su próximo servicio de IA generativa.

Los principales proveedores de infraestructuras de centros de datos han anunciado planes para integrar los aceleradores AMD Instinct MI300 en sus carteras de productos.

• Dell anunció la integración de los aceleradores AMD Instinct MI300X con su solución de servidor PowerEdge XE9680 para ofrecer un mayor rendimiento para cargas de trabajo de IA generativa en un formato modular y escalable para los clientes.
• HPE anunció planes para incorporar aceleradores AMD Instinct MI300 a sus ofertas empresariales y de HPC.
• Lenovo compartió sus planes de incorporar los aceleradores AMD Instinct MI300X a la plataforma Lenovo ThinkSystem para ofrecer soluciones de IA en sectores como el comercio minorista, la fabricación, los servicios financieros y de salud.
• Supermicro ha anunciado sus planes de ofrecer las GPU AMD Instinct MI300 en toda su cartera de soluciones de IA.

Asus, Gigabyte, Ingrasys, Inventec, QCT, Wistron y Wiwynn también tienen previsto ofrecer soluciones basadas en aceleradores AMD Instinct MI300.

Proveedores especializados en IA en la nube como Aligned, Arkon Energy, Cirrascale, Crusoe, Denvr Dataworks y Tensorwaves tienen previsto proporcionar ofertas que ampliarán el acceso a las GPU AMD Instinct MI300X para desarrolladores y startups de IA.

Lanzamiento de una plataforma de software de IA abierta, probada y preparada

AMD ha destacado los importantes avances en la ampliación del ecosistema de software compatible con los aceleradores de centros de datos AMD Instinct.

• AMD presentó la última versión de la open software stack de código abierto para las GPU AMD Instinct, ROCm 6, que se ha optimizado para la IA generativa, en particular los modelos de lenguaje de gran tamaño. ROCm 6 ofrece soporte para nuevos tipos de datos, optimizaciones avanzadas de gráficos y kernels, librerías optimizadas y algoritmos de atención de última generación que, junto con MI300X, proporcionan un aumento del rendimiento de ~8x la latencia total en la generación de texto en Llama 2 en comparación con ROCm 5 ejecutado en MI250.
• Databricks, Essential AI y Lamini, tres startups de IA que construyen modelos emergentes y soluciones de IA, se unieron a AMD en el escenario para discutir cómo están aprovechando los aceleradores AMD Instinct MI300X y la ROCm 6 open software stack para ofrecer soluciones de IA para clientes empresariales.
• OpenAI añade soporte para los aceleradores AMD Instinct a Triton 3.0, proporcionando soporte inmediato para los aceleradores AMD que permitirá a los desarrolladores trabajar a un mayor nivel de abstracción en hardware AMD.

IA hasta en las PCs

AMD también anunció nuevos procesadores móviles con el lanzamiento de los últimos AMD Ryzen Serie 8040 que ofrecen más capacidad de cálculo de IA. AMD también lanzó Ryzen AI 1.0 Software, una software stack que permite a los desarrolladores desplegar aplicaciones que utilizan modelos preentrenados para añadir capacidades de IA para Windows.

AMD también reveló que las próximas CPU “Strix Point” de próxima generación, cuyo lanzamiento está previsto para 2024, incluirán la arquitectura XDNA 2 para ofrecer más de 3x de rendimiento de computación de IA en comparación con la generación anterior, lo que permitirá nuevas experiencias de IA generativa.