Qualcomm dice que sus nuevos chips son 4,5 veces más rápidos en IA que sus rivales
Qualcomm acaba de anunciar dos nuevos y potentes procesadores que destacan en IA generativa, uno para portátiles y otro para teléfonos. A medida que las aplicaciones potenciales de la inteligencia artificial continúan expandiéndose desde texto a imágenes, videos y más, el procesamiento más rápido en su propio dispositivo se vuelve más importante.
El Snapdragon X Elite es el nuevo y emocionante procesador para portátiles de Qualcomm, que cuenta con el mejor rendimiento de CPU de su clase para portátiles con Windows y una impresionante velocidad de GPU. Para los teléfonos, el Snapdragon 8 Gen 3 supera a la generación anterior con un 30% más de velocidad y consume un 20% menos de energía de la batería.
Las especificaciones de CPU y GPU son importantes, pero con su último lanzamiento de chips, Qualcomm enfatizó la potencia de procesamiento de IA de sus últimos chips. Con este rendimiento mejorado, Qualcomm optimizó varios modelos de IA generativa para ejecutarlos localmente en computadoras portátiles y teléfonos Snapdragon, y sus reclamos contra Intel, AMD y Apple son impresionantes.
Entonces, ¿qué tan rápido es la IA? Bueno, según Qualcomm, los nuevos chips Snapdragon X Elite proporcionan 45 TOPS (billones de operaciones por segundo) en las pruebas comparativas de IA INT4 y 30 tokens por segundo en el modelo avanzado de IA Llama 2 de Meta . Qualcomm dice que es 4,5 veces más rápido que la competencia. Se afirma que el Snapdragon 8 Gen 3 procesa 20 tokens por segundo, proporciona segmentación en tiempo real para separar objetos en una imagen para un procesamiento fotográfico avanzado y ejecuta una difusión estable para la generación de imágenes en menos de un segundo.
El Snapdragon X Elite también es capaz de ejecutar modelos de IA generativa de 13 mil millones de parámetros en el dispositivo. Para los teléfonos, se pueden ejecutar modelos de 10 mil millones de parámetros en el Snapdragon 8 Gen 3. Durga Malladi, vicepresidente senior y gerente general de planificación tecnológica y soluciones de vanguardia de Qualcomm, dice que el Snapdragon 8 Gen 3 es el primero en admitir multimodal (imágenes , mensajes de texto y más) en los teléfonos.
Más allá del rendimiento bruto, Qualcomm afirma que su IA en el dispositivo ayuda a mantener seguras las consultas y los resultados, garantizando la privacidad del usuario. Dado que sus selfies, fotos y videos personales, voz y texto se utilizan con las nuevas aplicaciones de IA multimodal , sus datos biométricos y personales están potencialmente en riesgo si los carga en IA basada en la nube.
Si bien la IA basada en la nube está experimentando los crecientes problemas de una rápida adopción, así como las dificultades para escalar lo suficientemente rápido, el procesamiento de IA local puede ofrecer una menor latencia, menos uso de energía y un menor costo.
Qualcomm explicó que todo esto es posible gracias a la sinergia de la tecnología. Varios de los modelos de IA más populares se han optimizado para procesadores Snapdragon y utilizan la CPU, GPU, NPU (procesador neuronal) y el centro de detección trabajando juntos para ofrecer resultados significativamente más rápido que la generación anterior. Los nuevos chips también admiten memoria LPDDR5X ultrarrápida para eliminar los cuellos de botella en el procesamiento.
A medida que aumenta la demanda de IA, Snapdragon X Elite de Qualcomm para computadoras portátiles y Snapdragon 8 Gen 3 para teléfonos están listos para hacer que la generación de imágenes sea más rápida, el procesamiento de textos más rápido y ambos más seguros al permitir el procesamiento en el dispositivo. Será interesante ver qué pueden hacer las primeras computadoras portátiles y teléfonos que se lancen con los nuevos chips de Qualcomm con estas capacidades mejoradas.