Contenido Exclusivo

¡Convocatoria Abierta! Los Mejores 20 CISO de México 2024

CIO Ediworld le invita a participar en la tercera edición...

VIDEO: Machine learning para diagnóstico oportuno de enfermedades: Guillermo Murra, GE Healthcare

En entrevista con CIO Ediworld, Guillermo Murra, Director Ejecutivo...

¿Qué es una UNP y por qué es clave para desbloquear la GenAI?

La revolución de la inteligencia artificial generativa (IA) ya está aquí. Con la creciente demanda de casos de uso de IA generativa en sectores verticales con diversos requisitos y demandas computacionales, existe una clara necesidad de una arquitectura informática renovada y diseñada a medida para la IA. Comienza con una unidad de procesamiento neuronal (NPU) diseñada desde cero para la IA generativa, al tiempo que aprovecha una combinación heterogénea de procesadores, como la unidad central de procesamiento (CPU) y la unidad de procesamiento de gráficos (GPU). Al utilizar un procesador adecuado junto con una NPU, la computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica y la duración de la batería para permitir experiencias de IA generativa nuevas y mejoradas.

Qualcomm-image

Elegir el procesador adecuado, como elegir la herramienta adecuada en una caja de herramientas, depende de muchos factores y mejora las experiencias generativas de IA

 

 ¿Por qué es importante la computación heterogénea?

 Debido a los diversos requisitos y demandas computacionales de la IA generativa, se necesitan diferentes procesadores. Una arquitectura informática heterogénea con diversidad de procesamiento brinda la oportunidad de utilizar los puntos fuertes de cada procesador, es decir, una NPU diseñada a medida centrada en la IA, junto con la CPU y la GPU, cada una de las cuales sobresale en diferentes dominios de tareas. Por ejemplo, la CPU para control secuencial e inmediatez, la GPU para transmisión de datos paralelos y la NPU para cargas de trabajo centrales de IA con matemáticas escalares, vectoriales y tensoriales.

La computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica del dispositivo y la duración de la batería para maximizar las experiencias generativas del usuario final con IA.

Qualcomm-image

Las NPU han evolucionado con los cambiantes casos de uso y modelos de IA para lograr un alto rendimiento con bajo consumo de energía

 

¿Qué es una NPU?

La NPU está construida desde cero para acelerar la inferencia de IA a baja potencia, y su arquitectura ha evolucionado junto con el desarrollo de nuevos algoritmos, modelos y casos de uso de IA. Las cargas de trabajo de IA consisten principalmente en calcular capas de redes neuronales compuestas de matemáticas escalares, vectoriales y tensoriales seguidas de una función de activación no lineal. Un diseño de NPU superior toma las decisiones de diseño correctas para manejar estas cargas de trabajo de IA y está estrechamente alineado con la dirección de la industria de la IA.

Qualcomm-image

El motor de IA de Qualcomm consta de la NPU Qualcomm Hexagon, la GPU Qualcomm Adreno, la CPU Qualcomm Kryo o Qualcomm Oryon, Qualcomm Sensing Hub y el subsistema de memoria

Qualcomm está permitiendo la computación inteligente en todas partes. Nuestra NPU Qualcomm Hexagon, líder en la industria, está diseñada para una inferencia de IA sostenida y de alto rendimiento a bajo consumo. Lo que diferencia a nuestra NPU es nuestro enfoque de sistema, diseño personalizado y rápida innovación. Al diseñar de forma personalizada la NPU y controlar la arquitectura del conjunto de instrucciones (ISA), podemos evolucionar y ampliar rápidamente el diseño para abordar los cuellos de botella y optimizar el rendimiento.

La NPU Hexagon es un procesador clave en nuestra arquitectura informática heterogénea, la mejor de su clase, Qualcomm AI Engine, que también incluye la GPU Qualcomm Adreno, la CPU Qualcomm Kryo o Qualcomm Oryon, Qualcomm Sensing Hub y el subsistema de memoria. Estos procesadores están diseñados para trabajar juntos y ejecutar aplicaciones de IA de manera rápida y eficiente en el dispositivo.

Qualcomm-image

Qualcomm AI Stack tiene como objetivo ayudar a los desarrolladores a escribir una vez y ejecutar en todas partes, logrando escala.

 

Permitir a los desarrolladores acelerar las aplicaciones de IA generativa

Permitimos a los desarrolladores centrándonos en la facilidad de desarrollo e implementación en los miles de millones de dispositivos en todo el mundo impulsados por las plataformas Qualcomm y Snapdragon. Con Qualcomm AI Stack, los desarrolladores pueden crear, optimizar e implementar sus aplicaciones de IA en nuestro hardware, escribirlas una vez e implementarlas en diferentes productos y segmentos utilizando nuestras soluciones de chipset.

La combinación de liderazgo tecnológico, diseños de silicio personalizados, optimización de la IA de pila completa y habilitación del ecosistema distingue a Qualcomm Technologies para impulsar el desarrollo y la adopción de la IA generativa en el dispositivo. Qualcomm Technologies está permitiendo la IA generativa en el dispositivo a escala.

Lo Más Reciente

Mujeres en carreras STEM: el futuro de México

En el marco del Día Internacional de la Mujer...

El nearshoring no funcionará sin el CRM: Expand Latam

El nearshoring dejó de ser un sueño lejano para...

Un enfoque basado en riesgos ayudará a las empresas a enfrentar los crecientes ciberataques

Las soluciones de seguridad están adquiriendo más importancia en...

Newsletter

Recibe lo último en noticias e información exclusiva.

Mujeres en carreras STEM: el futuro de México

En el marco del Día Internacional de la Mujer en la Ingeniería, PepsiCo México refuerza su compromiso con estudiantes mujeres interesadas en las carreras...

El nearshoring no funcionará sin el CRM: Expand Latam

El nearshoring dejó de ser un sueño lejano para convertirse en una realidad que ya está beneficiando a muchas empresas mexicanas, en un territorio...

Un enfoque basado en riesgos ayudará a las empresas a enfrentar los crecientes ciberataques

Las soluciones de seguridad están adquiriendo más importancia en la mente de los responsables de la toma de decisiones corporativas. Pero en un esfuerzo...