Con el propósito de los clientes, socios y desarrolladores puedan crear una nueva generación de experiencias de Inteligencia Artificial (IA) innovadoras, Qualcomm Technologies, Inc. y Meta anunciaron un acuerdo de colaboración para optimizar la ejecución de los modelos de lenguaje de gran tamaño (LLM) Meta Llama 3 directamente en teléfonos inteligentes, PC, auriculares de Realidad Virtual/Realidad Aumentada, vehículos y más.
De acuerdo con información proporcionada por Qualcomm, la capacidad de ejecutar Llama 3 en dispositivos ofrece “ventajas significativas”, que incluyen una capacidad de respuesta superior, privacidad mejorada, confiabilidad mejorada y experiencias más personalizadas para los usuarios.
“Celebramos el enfoque abierto de Meta con Meta Llama 3 y compartimos su compromiso de empoderar a los desarrolladores e impulsar la innovación en IA”, afirmó Durga Malladi, vicepresidente senior y director general de tecnología, planificación y soluciones de vanguardia de Qualcomm Technologies, Inc.
Objetivos de la colaboración
La colaboración Qualcomm/Meta se propone democratizar el acceso a las capacidades de IA generativa al permitir que los OEM y los desarrolladores hagan que Llama 3 sea accesible en dispositivos impulsados por las próximas plataformas insignia Snapdragon, de acuerdo con Qualcomm.
En efecto, la utilización de la arquitectura informática heterogénea de Qualcomm, que aprovecha las CPU, GPU y NPU, junto con una arquitectura de memoria de vanguardia, permite a los clientes, socios y desarrolladores maximizar el rendimiento de las aplicaciones, la eficiencia térmica y duración de la batería.
De esta forma, afirman, los desarrolladores podrán tener acceso a los recursos y herramientas para ejecutar Llama 3 en plataformas Snapdragon a través de Qualcomn AI Hub, que actualmente ofrece aproximadamente 100 modelos de IA optimizados. “Qualcomm AI Hub reduce el tiempo de comercialización para los desarrolladores y desbloquea los beneficios de la IA en el dispositivo para sus aplicaciones”, señaló la compañía en un comunicado.