La IA de detección del discurso de odio de Facebook está dando sus frutos
Facebook está mejorando su eficiencia para reconocer y eliminar contenido que incita al odio. El Informe de cumplimiento de normas comunitarias de la plataforma muestra una reducción significativa en la prevalencia del discurso de odio en el último trimestre de 2020.
El discurso de odio en Facebook ha disminuido
En el Informe de cumplimiento de estándares comunitarios de Facebook de octubre a diciembre de 2020, la plataforma reveló importantes mejoras en la forma en que Facebook está manejando el discurso de odio. Guy Rosen, vicepresidente de integridad de Facebook, hizo una publicación en el blog Acerca de Facebook para destacar su éxito.
Por cada 10,000 visitas de contenido de Facebook, solo de siete a ocho fueron vistas de contenido de odio. Facebook también tomó medidas en relación con 6,3 millones de publicaciones sobre acoso e intimidación, un aumento de las 2,5 millones de publicaciones del tercer trimestre.
La plataforma también pudo capturar 6,4 millones de piezas de contenido de odio organizado, lo cual es una mejora enorme en comparación con los cuatro millones de piezas de contenido que Facebook eliminó en el trimestre anterior.
El Informe de cumplimiento de los estándares comunitarios mostró mejoras similares en Instagram. Se eliminaron cinco millones de publicaciones relacionadas con el acoso y la intimidación en Instagram, junto con 6.6 millones de piezas de contenido que contienen discursos de odio y 308.000 piezas de contenido de odio organizado. Todos estos números superan las estadísticas registradas en el tercer trimestre.
La tasa proactiva de Facebook, también conocida como la cantidad de contenido que Facebook elimina antes de que un usuario lo informe, también mejoró. En el caso de la intimidación y el acoso, la tasa proactiva de la plataforma aumentó del 26 al 49 por ciento en Facebook y del 55 al 80 por ciento en Instagram.
La inteligencia artificial de detección de odio de Facebook ha jugado un papel importante en impulsar su respuesta al discurso de odio. Rosen señala que la plataforma ha realizado mejoras en su inteligencia artificial "donde los matices y el contexto son esenciales, como el discurso de odio o la intimidación y el acoso", lo que finalmente ayudó a reducir la cantidad de contenido de odio en Facebook.
Mike Schroepfer, director de tecnología de Facebook, hizo una publicación separada en el blog Acerca de Facebook para celebrar los logros de la IA en constante mejora de Facebook. A pesar de sus logros recientes, Schroepfer espera que la IA de Facebook pueda mejorar "al ver contenido en contexto en diferentes idiomas, culturas y geografías".
La IA de Facebook se está volviendo más inteligente
Facebook comenzó a confiar más en su sistema de inteligencia artificial para ayudar a evaluar el contenido de odio debido a la pandemia de COVID-19 en curso. Rosen señaló que es probable que el equipo de Facebook todavía se vea afectado por la pandemia "hasta que una vacuna esté ampliamente disponible".
Aunque los moderadores de Facebook algún día volverán a trabajar con normalidad, no parece que la IA de la plataforma vaya a ninguna parte. Facebook solo ha hecho que su IA sea más inteligente y eficiente, y no parece que Facebook planee dejar de progresar pronto.