Algunos teléfonos Android están a punto de tener aplicaciones de IA superpoderosas
Es posible que ya hayas probado varias aplicaciones de IA generativa en tu teléfono. ChatGPT o HeyPi de OpenAI son algunos ejemplos de aplicaciones de IA conversacionales, mientras que Runway ML te permitirá crear videos generados por IA directamente en tu teléfono.
Pero hasta ahora, casi todas las aplicaciones de IA generativa se han basado en la computación basada en la nube, lo que significa que todo el procesamiento mágico de la IA ocurre en la nube, de la misma manera que los kits de Xbox hacen el trabajo pesado en los centros de servidores de Microsoft cuando transmites un juego de consola en tu computadora. teléfono o tableta.
MediaTek quiere cambiar eso, permitiendo la computación de IA generativa en el dispositivo directamente en su teléfono inteligente. Ese ambicioso lanzamiento a la luna se materializará con el próximo chipset insignia de MediaTek, que aparecerá en los teléfonos Android a finales de este año. La empresa cuenta con la ayuda de Meta, la empresa matriz de Facebook, que ofrece el modelo Llama 2 como piedra fundamental para las aplicaciones de IA generativa.
El fabricante de chips está promocionando toda una gama de beneficios de su enfoque de procesamiento de IA generativa en el dispositivo, que incluye “rendimiento perfecto, mayor privacidad, mejor seguridad y confiabilidad, menor latencia, la capacidad de trabajar en áreas con poca o ninguna conectividad y menor costo de operacion."
Acelerando la IA generativa en los teléfonos
El próximo chip MediaTek de gama alta empleará tres tácticas clave para mejorar la experiencia de IA generativa para teléfonos inteligentes. En primer lugar, contará con una pila de software dedicada optimizada para ejecutar Llama 2, un modelo de lenguaje grande de código abierto desarrollado por Meta que busca desafiar los modelos GPT de OpenAI y PaLM 2 de Google.
Llama 2, que se lanzó en julio, es “gratuito para investigación y uso comercial”. Hasta ahora, no han llegado muchas aplicaciones que se basan en el modelo de lenguaje Llama 2, ya que las aplicaciones de inteligencia artificial basadas en GPT son actualmente la comidilla de la ciudad. Pero Meta ha estado solicitando activamente actores en la industria de los teléfonos inteligentes, incluido el archirrival de MediaTek, Qualcomm.
Al igual que MediaTek, Qualcomm también firmó un acuerdo con Meta para mostrar el procesamiento en dispositivos para aplicaciones basadas en Llama en teléfonos inteligentes con sus chips insignia a partir de 2024. Ambas compañías también apuntan a otras áreas de aplicaciones, como los vehículos. Hardware XR, dispositivos domésticos inteligentes y más, con sus esfuerzos de IA generativa local en el dispositivo facilitados por silicio de primer nivel.
En su próximo chip insignia compatible con IA, MediaTek también utilizará una APU (Unidad de procesamiento de IA) mejorada que se basa en la "aceleración de la columna vertebral del transformador". Los transformadores son un tipo de arquitectura de red neuronal encargada de crear grandes modelos de lenguaje como GPT (Transformadores generativos preentrenados) que dieron origen a productos como ChatGPT y Bing Chat de Microsoft .
Finalmente, el nuevo chip de MediaTek también se integrará en el módulo DRAM para mejorar la experiencia del usuario de las aplicaciones de IA generativa basadas en Llama. DRAM, abreviatura de Dynamic Random Memory, es el módulo de memoria de alta velocidad y baja latencia que almacena los datos de funcionamiento de una aplicación. Cuanta más DRAM haya en su teléfono, mayor será la cantidad de aplicaciones que podrá ejecutar en segundo plano sin ningún problema. Hay una razón por la que los fabricantes de teléfonos inteligentes como OnePlus han instalado hasta 24 GB de DRAM en sus teléfonos.
Qué significan estas actualizaciones de IA para usted
Con los ajustes antes mencionados, MediaTek dice que su próximo chip de IA mejorará la experiencia LLM y AIGC (contenido generado por inteligencia artificial) al trasladar la mayor parte de los requisitos de procesamiento al hardware local.
En cuanto al tipo de tareas que puede esperar acelerar, bueno, dependerá de las capacidades del modelo Llama 2 de Meta y del tipo de aplicaciones que se construyen sobre él. Llama 2 es un modelo de lenguaje natural basado en texto, por lo que puedes esperar que haga el mismo tipo de trucos que ChatGPT o Bard. Puede procesar consultas y proporcionar respuestas basadas en sus conjuntos de datos de entrenamiento, resumir o expandir texto y más.
En cuanto a MediaTek, esta no será la primera asociación de IA de este tipo. En julio de este año, la compañía firmó un acuerdo con la rama china de Unity, que desarrolla el motor de desarrollo de juegos del mismo nombre, para explorar aplicaciones de inteligencia artificial generativa en el segmento de juegos.
MediaTek espera que su nuevo chip con aplicaciones Llama 2 llegue a los teléfonos inteligentes a finales de año, por lo que no tenemos que esperar mucho más para ver cómo se ve todo esto en un producto real.