Si pensabas que Apple y Google simplemente tardaban en detectar las aplicaciones dañinas en sus plataformas, una nueva investigación sugiere que el problema es mucho más grave. El Tech Transparency Project (TTP) descubrió que tanto la App Store como Google Play no solo alojan aplicaciones de contenido para adultos , sino que sus sistemas de búsqueda y publicidad dirigen activamente a los usuarios hacia ellas.
Las aplicaciones Nudify son herramientas de IA que pueden eliminar digitalmente la ropa de fotos de personas reales. También pueden generar vídeos pornográficos o crear chatbots sexualmente explícitos utilizando la imagen de alguien. ¿Lo más preocupante? 31 de las aplicaciones que encontró TTP fueron clasificadas como aptas para menores.
Cómo Apple y Google están enviando a los usuarios directamente a estas aplicaciones de desnudez.
TTP realizó búsquedas con términos como "nudify", "undress", "deepfake" e "AI NSFW" en ambas tiendas de aplicaciones. Aproximadamente el 40% de los 10 primeros resultados de cada término correspondían a aplicaciones que podían mostrar a mujeres desnudas o con poca ropa. Pero la cosa no se limita a los resultados de búsqueda. Ambas plataformas mostraron anuncios pagados de aplicaciones de nudify dentro de esos resultados. En el caso de Google, esto incluía un carrusel de aplicaciones patrocinadas, algunas de las cuales eran abiertamente pornográficas.
La función de autocompletar empeoró las cosas. Cuando TTP escribió "AI NS" en el buscador de la App Store, le sugirió "image to video ai nsfw", lo que resultó en más aplicaciones con contenido para adultos en los primeros resultados. Apple controla toda la publicidad en su App Store y tiene una política declarada en contra de los anuncios que promueven contenido para adultos. A pesar de ello, tres de las búsquedas de TTP en la App Store arrojaron un anuncio de contenido para adultos como primer resultado.
Por qué esto es un problema más grave de lo que piensas.
Las aplicaciones identificadas en ambas tiendas se han descargado 483 millones de veces y han generado más de 122 millones de dólares en ingresos totales. Apple y Google se llevan una parte de esos ingresos mediante suscripciones de pago y compras dentro de la aplicación, lo que, según TTP, podría explicar la laxitud en la aplicación de las normas.
Tras las denuncias de TTP y Bloomberg sobre estas aplicaciones, Apple eliminó 15 de ellas y Google suspendió varias más. Sin embargo, ambas compañías se negaron a explicar cómo estas aplicaciones habían superado la revisión o por qué las clasificaciones por edad permitían que los menores las descargaran.
¿Cuánto tiempo pasará antes de que Apple y Google se vean obligados a actuar?
El gobierno británico ha comenzado a proponer y promulgar leyes contra los deepfakes explícitos, y Estados Unidos registró recientemente su primera condena penal en virtud de una ley de este tipo . Es probable que la presión sobre Apple y Google para que actúen con mayor contundencia no haga más que aumentar.
El historial de Apple en materia de cumplimiento de normas ya está bajo escrutinio. Una carta obtenida por NBC News reveló que Apple amenazó en privado con retirar Grok de la App Store en enero debido a los deepfakes sexualizados, llegando incluso a rechazar la primera solución de xAI por considerarla insuficiente. Finalmente, Apple permitió que Grok permaneciera en la App Store, pero con informes como este acumulándose, ambas compañías se están quedando sin margen para hacer la vista gorda.
