Apple no ha respondido la pregunta más importante sobre sus funciones de IA
Durante el debut de Apple Intelligence en la WWDC 2024 ayer , el vicepresidente senior de ingeniería de software, Craig Federighi, promocionó repetidamente la seguridad de la nueva característica y el manejo delicado de los datos confidenciales del usuario. Para proteger la privacidad del usuario, Apple Intelligence realiza muchas de sus operaciones generativas en el dispositivo. Y para aquellos que excedan sus capacidades integradas, el sistema transferirá el trabajo al recientemente desarrollado Private Cloud Compute (PCC) de la compañía.
Sin embargo, como preguntó el Dr. Matthew Green, profesor asociado de Ciencias de la Computación en la Universidad Johns Hopkins en Baltimore, en un hilo el lunes , la nube de inteligencia artificial de Apple puede ser segura, pero ¿es confiable?
Apple Intelligence promete potenciar su iPhone, iPad y Mac con modelos generativos de vanguardia que pueden crear imágenes, editar sus escritos y realizar acciones en su nombre en cualquier cantidad de aplicaciones. Los dispositivos Apple ya han realizado tareas de aprendizaje automático en el dispositivo durante varios años; Tomemos como ejemplo la función de búsqueda del carrete de la cámara y el reconocimiento de texto por reconocimiento óptico de caracteres (OCR). Sin embargo, como señala Green , incluso la última generación de procesadores Apple aún no es lo suficientemente potente como para manejar algunas de las operaciones de IA más complejas y que consumen más recursos que están en línea, lo que requiere el uso de servidores informáticos en la nube.
El problema es que estos modelos complejos también necesitan acceso no cifrado a los datos del usuario para poder realizar funciones de inferencia y transmitir esos datos a una nube pública los deja en riesgo de ser pirateados, filtrados o directamente robados. La solución de Apple fue construir sus propios centros de datos reforzados e independientes específicamente para procesar datos de Apple Intelligence: el PCC. Este "innovador sistema de inteligencia en la nube", según una publicación reciente del Blog de seguridad de Apple , "extiende la seguridad y privacidad líderes en la industria de los dispositivos Apple a la nube, asegurándose de que los datos personales del usuario enviados a PCC no sean accesibles para nadie más que el usuario, ni siquiera a Apple”.
El problema es que si bien el hardware “neural” de los teléfonos modernos está mejorando, no lo hace lo suficientemente rápido como para aprovechar todas las características locas que Silicon Valley quiere de la IA moderna, incluida la IA generativa y similares. Esto requiere fundamentalmente servidores. 3/
– Mateo Verde (@matthew_d_green) 10 de junio de 2024
Pero garantizar esa privacidad es mucho más difícil en la práctica. "Construir computadoras confiables es literalmente el problema más difícil en seguridad informática", escribió Green. "Honestamente, es casi el único problema en seguridad informática". Elogió a la empresa por aplicar muchas de las mismas características de seguridad integradas en sus dispositivos móviles y de escritorio a sus nuevos servidores, incluido Secure Boot, software "sin estado" y un procesador Secure Enclave (SEP), además de "lanzar todo tipo de procesa en el hardware del servidor para asegurarse de que el hardware no sea manipulado”.
Apple ha hecho todo lo posible para garantizar que el software que se ejecuta en sus servidores sea legítimo, borrando automáticamente todos los datos del usuario de un nodo PCC tan pronto como se haya completado la solicitud y permitiendo que el sistema operativo del dispositivo "certifique" qué imagen de software es. correr.
"Si le dieras a un equipo excelente una gran cantidad de dinero y le dijeras que construyera la mejor nube 'privada' del mundo, probablemente se vería así", escribió Green. “Pero ahora vienen las preguntas difíciles. ¿Es una buena idea? ¿Es tan seguro como lo que hace Apple hoy? ¿Pueden los usuarios optar por no participar? No parece que los usuarios opten siquiera por el nuevo servicio. "Ni siquiera necesariamente te dirán lo que está sucediendo", continuó. “Simplemente sucederá. Por arte de magia. No me encanta esa parte”.
Green continúa argumentando que los piratas informáticos ni siquiera representan la mayor amenaza para los datos de los usuarios: son las propias empresas de hardware y software. Como tal, "este sistema PCC representa un compromiso real por parte de Apple de no 'espiar' sus datos", concluyó Green. "Eso es un gran problema".
Según se informa, Apple Intelligence comenzará a implementarse a finales de este verano. Y en las próximas semanas, Apple planea invitar a investigadores de seguridad a dar un primer vistazo al software PCC y al entorno de investigación virtual.