La IA está revolucionando la forma de tratar grandes volúmenes de datos y esta técnica se está utilizando para diversas funcionalidades. Un ejemplo notable de esta evolución es NVIDIA NIM – NVIDIA Inference Microservices, una tecnología que optimiza la comunicación entre componentes esenciales en sistemas de alto rendimiento como servidores y centros de datos, lo que agiliza la implantación de recursos de IA.
Estos microservicios de inferencia actúan como puente de alta velocidad entre las unidades de procesamiento gráfico (GPU) y otros elementos críticos del sistema como las CPU, la memoria y el almacenamiento. Esta conexión directa permite una transferencia de datos eficiente y rápida, lo que reduce significativamente la latencia y mejora el rendimiento general del sistema.
Por ejemplo, imagina que viaja por una gran ciudad y necesita ir de un sitio a otro, pero el tráfico es lento y es muy probable que pierda tiempo por el camino. Existe la opción de utilizar una autovía, que es exclusiva y te permite ir de un lado a otro mucho más rápido.
En el ordenador, las calles congestionadas serían las conexiones normales entre componentes, que en muchos casos pueden ser lentas e ineficaces. La autopista, en cambio, sería como el NIM de NVIDIA, que permite transmitir información de forma rápida y directa.
La gran sutileza de esta herramienta es que puede ser utilizada por empresas que cuenten con desarrolladores e incluso por organizaciones que no los tengan, ya que a través de socios es posible crear e implantar este servicio, independientemente del tamaño de la empresa, siempre que cuente con una GPU y una licencia de la plataforma de software NVIDIA AI Enterprise.
Con estos recursos, los microservicios de inferencia pueden utilizarse para ejecutar aplicaciones que generen texto, imágenes y vídeo, voz e incluso humanos digitales. Existen muchas posibilidades, entre ellas la creación de NIM específicos para la generación de moléculas, análisis de crédito, entre otros servicios con opciones personalizadas de seguridad, validación y dominio.
El uso de NVIDIA NIM puede contribuir significativamente a optimizar los proyectos de IA. Por poner otro ejemplo, si una empresa utiliza un modelo ya preparado y realiza ajustes por su cuenta, puede generar 250 palabras por segundo. Con la implementación de NIM, es posible generar 1.346 palabras por segundo, cinco veces más rápido utilizando el mismo hardware y modelo.
Hace poco, vimos el anuncio de NVIDIA NIM Agent Blueprints, un paquete de software para crear e implantar aplicaciones de IA generativa para casos de uso como avatares de atención al cliente, triaje virtual de descubrimiento de fármacos y mucho más. Las empresas pueden modificar NIM Agent Blueprints con sus propios datos de negocio y ejecutarlos mediante aplicaciones de IA generativa en centros de datos y nubes aceleradas.
Según las previsiones de Gartner, el 80% de las ofertas conversacionales incorporarán IA generativa en 2025. El NIM Agent Blueprint para la atención al cliente humana digital puede ayudar a las empresas en este camino al ofrecer una experiencia de usuario más atractiva. En el sector sanitario, el desarrollo de un nuevo medicamento suele costar unos US$ 2.600 millones y puede durar entre 10 y 15 años. Las empresas farmacéuticas podrán reducir estos costes y minimizar los plazos de desarrollo en el mercado farmacéutico mundial de US$ 1,5 billones haciendo más inteligente el diseño molecular con el NIM Agent Blueprint. Además de reducir el tiempo y el coste del desarrollo de fármacos, el acceso de los pacientes a los tratamientos será más eficiente.
Es importante tener en cuenta que si es necesario entrenar estos modelos específicos, el tiempo de entrenamiento puede variar en función de la cantidad de datos, el tamaño del modelo que la empresa quiera crear y de cuántas GPU disponga para esta integración.
NVIDIA NIM no sólo optimiza el rendimiento de los sistemas informáticos, sino que también representa un avance significativo en la capacidad de procesamiento de datos. Gracias a su capacidad para conectar GPU y otros componentes de forma eficiente, esta tecnología es esencial para las empresas y organizaciones que buscan maximizar la eficiencia operativa y la innovación tecnológica.
Al adoptar NVIDIA NIM, las empresas no sólo mejoran sus procesos internos, sino que también abren las puertas a nuevas aplicaciones y descubrimientos científicos que antes podrían haberse visto limitados por la capacidad de cálculo disponible. Se trata de un avance que no solo aumenta el rendimiento de los sistemas de IA, sino que amplía las posibilidades de transformación digital a escala global.
*Marcio Aguiar, director de la división Enterprise de NVIDIA para Latinoamérica
