Meta lleva tiempo en el ojo del huracán por cuestiones relacionadas con la seguridad de los adolescentes y la inteligencia artificial. Tras una investigación del Wall Street Journal, una demanda perdida en Nuevo México y una investigación de la FTC, la compañía finalmente está implementando herramientas efectivas de supervisión parental.
Hoy, Meta presenta una nueva pestaña de Información en su centro de supervisión en tres de sus plataformas más populares: Instagram , Facebook y Messenger . Aunque el nombre no lo deja claro de inmediato, esta función permite a los padres ver de qué hablan sus adolescentes con la IA de Meta en todas estas aplicaciones.
¿Qué pueden ver realmente los padres?
Si bien los padres no recibirán una transcripción literal de las conversaciones de sus hijos con Meta AI , la nueva pestaña Insights ofrece resúmenes semanales de los temas tratados. Abarca categorías generales como Escuela, Entretenimiento, Estilo de vida, Viajes, Escritura y Salud, cada una con sus propias subcategorías.
Por ejemplo, la sección de Salud y Bienestar abarca temas como la actividad física, la salud física y la salud mental. Se espera que estas categorías proporcionen suficiente contexto para que los padres identifiquen patrones preocupantes entre los temas sin necesidad de leer todos los mensajes.
Además de la visibilidad de los temas, los padres también pueden decidir a qué personajes de IA puede acceder su hijo, e incluso desactivar por completo los chats de personajes, manteniendo el asistente de IA disponible para casos de uso generales, como hacer los deberes, resolver dudas cotidianas, etc.
Meta también está desarrollando alertas específicas para temas delicados, lo que, en mi opinión, es la forma más eficaz de notificar a los padres sobre cualquier conversación preocupante. Si la conversación de un adolescente con la IA trata sobre autolesiones, o peor aún, deriva hacia el suicidio, los padres serán informados directamente.
¿A quién va dirigido?
Por ahora, la pestaña Insights está disponible en Estados Unidos, Reino Unido, Australia, Brasil y Canadá. Se espera su lanzamiento global en las próximas semanas. Además de esta nueva función, Meta también ha colaborado con el Centro de Investigación sobre Ciberacoso para desarrollar temas de conversación.
Esto incluye sugerencias que pueden ayudar a los padres a entablar conversaciones sin prejuicios sobre la IA con sus hijos adolescentes . Es importante destacar que la decisión de la empresa se basa en una importante presión legal y regulatoria, no en un instinto noble, y es esa diferencia la que importa.
Si el sistema de alerta sobre temas delicados funciona correctamente, podría establecer un estándar industrial sobre cómo la IA o las plataformas de redes sociales tratan a los usuarios jóvenes y vulnerables.