La inteligencia artificial de Facebook aborda el aumento del contenido de odio
La sofisticada tecnología de inteligencia artificial (IA) de Facebook ha permitido que la plataforma elimine más discursos de odio que nunca. Su IA que detecta el odio ha logrado captar el 95 por ciento del contenido de odio en el tercer trimestre de 2020.
El papel de la IA en la guerra contra el discurso de odio
El último Informe de aplicación de los estándares comunitarios de Facebook reveló el papel principal que desempeña la IA en la lucha contra el discurso de odio en la plataforma.
Durante el tercer trimestre de 2020, Facebook logró "detectar proactivamente" alrededor del 95 por ciento del discurso de odio. En total, Facebook eliminó 22,1 millones de piezas de contenido de odio en Facebook y 6,5 millones de piezas en Instagram.
Este es un aumento importante en comparación con el último trimestre de 2017, un período en el que Facebook detectó de manera proactiva solo el 24 por ciento del discurso de odio en Facebook e Instagram.
Aunque la plataforma utiliza "una combinación de informes de usuario y tecnología" para eliminar el contenido de odio, el gran salto se ha atribuido en gran medida a la inteligencia artificial avanzada de Facebook.
Su inteligencia artificial no solo ayuda a detectar y tomar medidas sobre el contenido de odio incluso antes de que se informe, sino que Facebook también lo usa para clasificar contenido más complicado que debe revisarse. Facebook explicó con más detalle el papel de la IA, declarando:
Ya sea que los usuarios detecten o notifiquen el contenido de manera proactiva, a menudo utilizamos la inteligencia artificial para tomar medidas en los casos sencillos y priorizar los casos más matizados, donde el contexto debe tenerse en cuenta, para nuestros revisores.
Además, Facebook también notó un aumento en la prevalencia del discurso de odio durante el tercer trimestre. Según Facebook, determina "la prevalencia del discurso de odio seleccionando una muestra de contenido visto en Facebook y luego etiquetando cuánto de él viola nuestras políticas de discurso de odio".
El informe mostró que de cada 10,000 vistas de contenido de la plataforma, de 10 a 11 vistas contenían discurso de odio.
¿Cómo define Facebook el discurso de odio?
Si se pregunta cómo exactamente Facebook determina qué es y qué no es discurso de odio, la plataforma ajusta continuamente su definición. En agosto de 2020, Facebook actualizó sus políticas de incitación al odio para incluir teorías de conspiración antisemitas y cara negra. Facebook señala que "a medida que el discurso continúa evolucionando con el tiempo, continuamos revisando nuestras políticas para reflejar las tendencias sociales cambiantes".
En este momento, Facebook define el discurso de odio "como cualquier cosa que ataque directamente a las personas en función de características protegidas, incluida la raza, el origen étnico, el origen nacional, la afiliación religiosa, la orientación sexual, el sexo, el género, la identidad de género o una discapacidad o enfermedad grave".
Qué esperar en el futuro
A lo largo de 2020, Facebook se ha enfrentado a una serie de desafíos con respecto al contenido controvertido.
A principios de año, la plataforma tuvo que luchar contra la desinformación sobre la pandemia de COVID-19. Más tarde, también tuvo que lidiar con información engañosa sobre las elecciones presidenciales de Estados Unidos. Esto lleva a que la plataforma coloque etiquetas en ciertas publicaciones o las elimine por completo.
A medida que la IA de Facebook sigue evolucionando, solo podemos esperar más derribos en el futuro.