Los usuarios de Twitter descubren posibles sesgos raciales en el algoritmo de recorte automático

Twitter está tratando de determinar por qué su función de vista previa de fotos muestra signos de prejuicio racial. Varios usuarios descubrieron que era más probable que las caras negras se recortaran de las vistas previas de las fotos en comparación con las caras blancas.

Cuando ves una imagen en Twitter, es solo una vista previa; tienes que hacer clic en ella para ver la imagen completa. Twitter utiliza un algoritmo para recortar fotos y dicta lo que verá en las vistas previas de las imágenes.

En 2018, Twitter anunció su función de recorte automático inteligente en una publicación en el Blog de Twitter . Esta función utiliza la "prominencia" para centrarse en las partes más destacadas de las fotos y luego recorta las vistas previas de las fotos en consecuencia.

Los usuarios de Twitter descubrieron que la red neuronal de la plataforma puede tener un sesgo racial. Un usuario publicó una foto del senador estadounidense Mitch McConnell junto al ex presidente Barack Obama.

La vista previa de la imagen recorta descaradamente el rostro de Obama, incluso cuando su rostro se coloca en la parte superior de la foto. Cuando el mismo usuario intentó invertir los colores de la imagen, la cara de Obama finalmente apareció en la vista previa de la imagen.

Otros usuarios comenzaron a realizar sus propios experimentos. Una y otra vez, los usuarios descubrieron que el algoritmo parecía preferir constantemente las caras blancas a las negras.

Liz Kelley, miembro del equipo de comunicaciones de Twitter, envió un Tweet en respuesta a los hallazgos de los usuarios de Twitter. Señaló que si bien el equipo de Twitter ya probó el algoritmo en busca de sesgos, tendría que investigar más.

Todos estos descubrimientos se derivaron del Tweet de un usuario sobre un problema de llamada de Zoom . Zoom continuamente no pudo detectar la cara de su amigo negro cuando intentó usar un fondo virtual. Cuando el usuario recurrió a Twitter para publicar capturas de pantalla del problema, Twitter recortó a su amigo negro de la vista previa de la imagen.

Si bien todos estos experimentos son informales, parecen resaltar un problema real. Twitter definitivamente tendrá que mirar más de cerca su función de recorte automático y ver si tiene un sesgo racial arraigado.

Dicho esto, el algoritmo de recorte automático de Twitter no es la única función de Twitter que ha sido criticada. Después de todo, muchos usuarios tampoco son fanáticos del algoritmo de la plataforma que organiza automáticamente su feed.