La IA será disruptiva para las empresas, pero ¿cómo lo será para las arquitecturas de TI empresariales que las respaldan?

La IA tiene que ver con los datos

Siempre aparecerán aplicaciones que nos harán repensar los sistemas que las respaldan, pero la IA es especialmente disruptiva.

Todo el mundo sabía que algo iba a cambiar por completo en términos de TI empresarial cuando vimos ChatGPT por primera vez el otoño pasado. Pero si bien nos centramos mucho en el procesamiento, se trata de datos.

Puede que la IA sea una aplicación más nueva, pero sus principios no son desconocidos: el deseo de una toma de decisiones más rápida basada en los datos que una empresa ha acumulado. Sin embargo, lo que las empresas están construyendo para la IA no se parece a nada que hayan construido en el pasado. Lo más parecido puede ser una infraestructura para la informática de alto rendimiento (HPC), pero eso rara vez ha estado en el dominio de la TI empresarial y, por lo general, se ha mantenido dentro de los límites de la academia y la investigación.

La mayoría de las empresas ni siquiera han incursionado en la HPC. Incluso para aquellos que lo tienen, no suele mezclarse con otros flujos de trabajo; se trata como un silo y se gestiona como una bestia diferente. Si la promesa clave de la IA es transformar los flujos de trabajo en toda la empresa accediendo a todos los datos, podemos aprender de las soluciones HPC, pero no podemos copiarlas.

Cuando no puedas reusar, rediseña

La mayoría de las infraestructuras empresariales no están inherentemente diseñadas para la IA, pero ese no es el único desafío. Keith Townsend, director de The CTO Advisor, señaló que la infraestructura de IA no sólo es nueva, sino que en muchos sentidos va en contra de la mayoría de las estrategias de TI empresariales. Esto se debe en parte a que el ciclo de vida de las aplicaciones de IA es más iterativo que el de las aplicaciones empresariales tradicionales.

Otro desafío es que la mayoría de los centros de datos diseñados para la TI tradicional se diseñaron en torno a limitaciones físicas y de energía que la IA ha abierto, con su huella y consumo de energía potencialmente masivos.

Muchos centros de datos abandonados simplemente no estaban diseñados para suministrar energía a estos clústeres de GPU. Vi esto cuando un cliente intentó implementar cargas de trabajo de IA en un centro de datos abandonado. Solo pudieron implementar dos servidores GPU por rack debido a limitaciones de energía. Esto resultó en que dos tercios del estante quedaran sin uso.

Dado que los metros cuadrados de los centros de datos son un bien escaso y el costo de la energía es cada vez mayor, tenemos que pensar detenidamente cómo abordar este problema de manera sostenible.

La IA y la “E” en los criterios ESG

Muchos entornos no fueron diseñados para cargas de trabajo pesadas, un rack típico recibe entre 5 y 10 kW de potencia por rack, pero que podría ser solo un servidor de una implementación de IA. Entonces, para este tipo de flujo de trabajo, se necesitan entre 45 y 100 kW de potencia por rack, lo que genera desafíos de refrigeración.

Claramente, la “E” en ESG sigue apareciendo, con razón: la geopolítica, el cambio climático, las limitaciones energéticas y los objetivos de sostenibilidad ayudan a defender los centros de datos totalmente flash, como el único camino lógico a seguir.

El enigma de la nube: ¿se puede subcontratar la IA sin concesiones?

Si la mayoría de los centros de datos están construidos para computación de propósito general y el legado no puede adaptarse a la IA, eso deja a las empresas con pocas opciones: hacer que las arquitecturas de propósito general sean lo suficientemente escalables y eficientes para la IA, aprovechar la nube o ambas.

La nube puede ser excelente para algunos casos de uso, como la IA, pero sabemos que no es una panacea. Esto generó consideraciones (o desventajas) en torno a la gobernanza de datos, la visibilidad y ESG. La nube puede enmascarar los resultados de energía y refrigeración que las empresas necesitan informar y crea otro lugar más para que residan los datos. Muchas organizaciones ya tienen dificultades para saber dónde están los datos y la nube puede exacerbar este problema. Si bien aún está por ver cuántas empresas construyen infraestructuras completas de inteligencia artificial en lugar de aprovechar la nube como su salsa secreta, el cambio se avecina.

¿Cómo serán las nuevas infraestructuras centradas en la IA?

TL;DR: una infraestructura de uso general de próxima generación.

No importa cómo se diseñen los nuevos sistemas, lo único que siempre los unirá a todos son los datos que consumen y comparten. La IA se trata de datos. La innovación en almacenamiento debe pasar a primer plano para permitir que las empresas aprovechen esta tecnología.

El consenso fue que las nuevas arquitecturas deberían diseñarse no para la especialización sino para la flexibilidad y la desagregación. Serán menos un silo integrado verticalmente y más un conjunto de recursos optimizados para resolver los mayores desafíos de datos de las empresas. Eso significa implementar infraestructura de propósito general, pero para un conjunto más amplio de casos de uso, como cargas de trabajo sofisticadas y aceleradores.

La IA se beneficiará del intercambio interno de muchos datos. Se beneficiará de la disponibilidad para alimentarlo desde todos los diferentes conjuntos de datos. Ese es un gran impulso para utilizar una arquitectura de propósito más general para el procesamiento de IA.

Una pequeña cantidad de plataformas muy escalables pueden simplificar el futuro de la TI empresarial en todas las cargas de trabajo: análisis, archivos, objetos y más. Esto permitirá que la TI se expanda y amplíe las capacidades de uso general, haciendo que la IA sea menos disruptiva para la TI empresarial de lo que pensamos.

Con todos los diferentes conjuntos de datos y la necesidad de compartirlos, tiene que haber una consolidación para que todos los recursos de esta nueva infraestructura componible puedan aprovechar los datos. La alternativa es un desperdicio excesivo desde el punto de vista de la capacidad o una pesadilla de gobernanza y cumplimiento de datos.

Aquí es donde entra en juego una plataforma de almacenamiento de datos creada para IA como Pure Storage FlashBlade//S. El almacenamiento heredado no tiene cabida en el centro de datos de próxima generación impulsado por IA.

Por: Julio Castrejón, Country Manager México en Pure Storage.