Estas ingeniosas ideas podrían ayudar a que la IA sea un poco menos malvada
En este momento, hay muchas preocupaciones sobre el daño que la inteligencia artificial (IA) puede causar. Para compensar eso, el fabricante de Firefox, Mozilla, se propuso fomentar un uso más responsable de la IA con su Desafío de IA responsable , y los ganadores del concurso anunciados recientemente muestran que el futuro infundido por la IA no tiene por qué ser todo pesimismo.
El primer premio de $ 50,000 fue para Sanative AI, que "proporciona marcas de agua anti-IA para proteger las imágenes y las ilustraciones para que no se utilicen como datos de entrenamiento" para el tipo de modelos de lenguaje grande que impulsan las herramientas de IA como ChatGPT . Ha habido mucha consternación por parte de fotógrafos y artistas por el uso de su trabajo para entrenar a la IA sin permiso, algo que la IA de Sanative podría ayudar a remediar.
Kwanele Chat Bot fue el subcampeón de $ 30,000 y "tiene como objetivo empoderar a las mujeres en comunidades plagadas de violencia al permitirles acceder a ayuda rápidamente y garantizar la recopilación de evidencia admisible". El tercer lugar y $20,000 fueron para Nolano, que es un "modelo de lenguaje entrenado que utiliza procesamiento de lenguaje natural para ejecutarse en computadoras portátiles y teléfonos inteligentes".
Además de los premios en efectivo, todos los ganadores serán asesorados por líderes de la industria de IA y obtendrán acceso a los "recursos y comunidades" de Mozilla.
Tremendo potencial
La competencia llega en un momento de creciente preocupación por los poderes de la IA y el potencial de que la inteligencia artificial cause daño. En marzo de 2023, numerosos líderes tecnológicos firmaron una carta abierta pidiendo una pausa en el desarrollo de la IA debido a sus riesgos, mientras que a principios de esta semana se publicó una carta abierta similar advirtiendo que “Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear”.
Pero no tiene por qué ser todo malo. Como Joshua Long, analista jefe de seguridad de la empresa de seguridad Intego, dijo recientemente a Digital Trends : "Al igual que cualquier herramienta en el mundo físico o virtual, el código de computadora se puede usar para bien o para mal". Si bien las vastas habilidades computacionales de la IA podrían usarse para propósitos nefastos, también pueden canalizarse para resolver algunos de los problemas más apremiantes que enfrenta la humanidad.
De hecho, el Desafío de IA responsable de Mozilla sugiere que se pueden hacer muchas cosas buenas cuando se utiliza la IA. Ya hemos visto algunos usos sorprendentes para ChatGPT , y el concurso de Mozilla podría alentar una mayor experimentación beneficiosa en este campo.
Lo que es seguro es que solo estamos comenzando a ver de lo que es capaz la IA, y es imperativo garantizar que se utilice como una fuerza para el bien. Como han demostrado los ganadores del premio de Mozilla, la IA tiene un tremendo potencial esperando a ser desbloqueado.