Tres razones por las que Facebook / Meta está cerrando su sistema de reconocimiento facial

Meta, la nueva empresa matriz de Facebook, anunció el martes que Facebook eliminaría su sistema de reconocimiento facial en las próximas semanas. Más de un tercio de los usuarios habituales de Facebook aprovechan las funciones de reconocimiento facial, por lo que este cambio afectará a varias personas.

Si los usuarios están "habilitados" actualmente para la configuración de reconocimiento facial, se eliminarán las plantillas utilizadas para identificar a cada usuario. Tampoco habrá más reconocimiento facial automático en fotos o videos. Otra área en la que esto afectará es el texto alternativo automático, o AAT, que se utiliza para describir imágenes a personas ciegas o con deficiencias visuales. Una vez que desaparece el sistema de reconocimiento facial, también desaparece la capacidad de identificar específicamente a cada persona en una foto mediante el reconocimiento facial.

Dado que hay beneficios que provienen del reconocimiento facial, ¿por qué Meta se deshace de él? En el anuncio , Jerome Pesenti, vicepresidente de inteligencia artificial de Meta, cita "las crecientes preocupaciones de la sociedad, especialmente porque los reguladores aún tienen que proporcionar reglas claras".

Hay tres áreas principales de preocupación que discutimos a continuación.

Problemas de privacidad

Facebook ha salvado las "huellas de la cara" de cientos de millones de usuarios, y no todos estarán tan felices por eso. No hace mucho, Facebook resolvió una demanda colectiva que se presentó en 2015 relacionada con preocupaciones de privacidad sobre su función de reconocimiento facial y sugerencias de etiquetas. Como resultado, la empresa pagó más de 500 millones de dólares. También detuvo la confusa función de "sugerencias de etiquetas" y la renombró como "reconocimiento facial" en aras de la claridad, además de agregar un componente de opción clara para la tecnología renombrada. Pero incluso con estos cambios de privacidad, el sistema de reconocimiento facial parece ser más problemático de lo que vale, especialmente en este momento, cuando Meta está ocupando un lugar destacado en los titulares por sus prácticas cuestionables .

Preocupaciones por la precisión y la equidad

Si ha visto algún documental reciente sobre investigaciones policiales, probablemente sepa que la policía ha confiado cada vez más en las redes sociales como herramienta de investigación, incluido y especialmente el reconocimiento facial de Facebook. Muchos activistas y defensores se preocupan por el impacto que esto tiene en la igualdad, la equidad y la justicia en general.

Claro, el reconocimiento facial se puede utilizar para resolver delitos. Pero también se puede utilizar para acusar falsamente, identificar manifestantes pacíficos y como una herramienta para la discriminación accidental o intencionada (ya que es notorio que tiene problemas con el reconocimiento incorrecto de BIPOC – indígenas negros o personas de color – individuos). San Francisco prohibió el uso del reconocimiento facial por parte de las agencias locales en 2019, convirtiéndose en la primera ciudad importante de EE. UU. En hacerlo, al igual que el estado de Maine . El Parlamento Europeo también ha estado haciendo ruido en ese sentido, y estamos viendo cada vez más una oleada contra la tecnología tanto a nivel nacional como internacional.

Asuntos reglamentarios

Facebook también se ha enfrentado a problemas regulatorios relacionados con esta tecnología. En 2018, junto con otros grupos de consumidores, el Centro de Información de Privacidad Electrónica presentó una queja ante la Comisión Federal de Comercio (FTC) con respecto a la tecnología de reconocimiento facial de Facebook. Y, como todos sabemos, Facebook no es ajeno a la FTC.

En la publicación del blog , Pesenti dice: “De cara al futuro, todavía vemos la tecnología de reconocimiento facial como una herramienta poderosa, por ejemplo, para las personas que necesitan verificar su identidad o para prevenir el fraude y la suplantación de identidad. Creemos que el reconocimiento facial puede ayudar para productos como estos con privacidad, transparencia y control, para que usted decida si se usa su rostro y cómo. Continuaremos trabajando en estas tecnologías e involucrando a expertos externos ".

Continúa explicando: “Cada nueva tecnología trae consigo un potencial tanto de beneficio como de preocupación, y queremos encontrar el equilibrio adecuado. En el caso del reconocimiento facial, su papel a largo plazo en la sociedad debe debatirse abiertamente y entre quienes se verán más afectados por él. Continuaremos participando en esa conversación y trabajando con los grupos de la sociedad civil y los reguladores que lideran esta discusión ”.

¿Qué estamos perdiendo o ganando?

El cambio más grande y obvio es que los rostros de las personas ya no serán reconocidos y etiquetados automáticamente en fotos, videos y Recuerdos, aunque el etiquetado manual seguirá estando disponible y fomentado. Tampoco verá más etiquetas sugeridas. Quizás la pérdida más notable sea para los usuarios con problemas de visión que ya no obtendrán los nombres de las personas en las fotos a través del texto alternativo automático, aunque la tecnología seguirá funcionando para el texto a pesar de omitir los nombres. Ninguno de estos son grandes pérdidas, incluso en conjunto, y la plantilla de reconocimiento facial para aquellos que optaron por participar se eliminará, mientras que aquellos que nunca lo hicieron no verán ningún cambio.

Queda por ver si, cuándo o cómo volverá el reconocimiento facial a Facebook. Pero por el momento, muchos usuarios se sentirán más seguros con la tecnología desaparecida, mientras que otros perderán algunas características y beneficios clave que disfrutan.