Los usuarios verificarán los datos de Instagram y Facebook. Esperemos que funcione

Hace un mes, Meta dijo que pondría fin a su programa de verificación de datos de terceros y dijo que confiaría en los usuarios para detectar información errónea. Hoy, la compañía anunció Community Notes, que adopta un enfoque similar al de X y se implementará en Facebook, Instagram y Threads.

Los requisitos para ser redactor de notas comunitarias son ser ciudadano estadounidense mayor de 18 años, tener un número de teléfono verificado y una cuenta con más de 6 meses de antigüedad. Sin embargo, no todas las notas de la comunidad se publicarán, ya que eso requeriría una especie de consenso entre otros contribuyentes.

"Un número suficiente de contribuyentes deben estar de acuerdo en que una nota de la comunidad es útil antes de que pueda publicarse en una publicación", dice la empresa. Meta pronto comenzará a incorporar usuarios elegibles (cuyos detalles aún no están disponibles) y comenzará a aparecer estas notas de verificación de datos de origen público en los próximos meses.

Las notas de la comunidad pueden tener hasta 500 caracteres, deben utilizar un lenguaje que parezca imparcial y fácil de entender, y respaldar las afirmaciones con una URL que enlace a una fuente confiable. Una vez que haya sido calificado y considerado útil, se puede adjuntar públicamente a la publicación problemática en las redes sociales.

¿Hasta dónde pueden llegar los daños?

De cara a 2025, Meta tiene una política de moderación de contenidos más flexible y una situación de no contacto con organizaciones independientes de verificación de datos, empezando por Estados Unidos. La empresa espera que las notas aportadas por los usuarios resuelvan sus problemas. Es una pendiente resbaladiza.

Un experto en desinformación , que trabaja con una organización líder que forma parte del programa de verificación de datos de Meta, dijo a Digital Trends que las notas de la comunidad son en gran medida ineficaces. Hablando bajo condición de anonimato, dijeron que fracasó en X en algunos de sus mercados más grandes, como India.

Miembro de la Red Internacional de Verificación de Datos (IFCN) de Poynter, el experto también rechazó las afirmaciones de Meta de que los verificadores de datos estuvieran sesgados políticamente. Las agencias de IFCN han argumentado cómo Meta les hizo adherirse a una estricta no partidismo y transparencia, lo que también significó decir no a la promoción y afiliaciones a partidos políticos.

Aquí está la parte contradictoria del debate. Los verificadores de datos profesionales son los principales contribuyentes a las Notas de la comunidad en X, según un estudio que analizó más de 1,2 millones de notas publicadas en 2024. “Los usuarios frecuentemente confían en organizaciones de verificación de datos cuando proponen Notas de la comunidad”, dice el estudio .

Desde que Meta anunció el fin de su programa de verificación de datos, estalló un debate sobre la intención detrás de él. En enero, Meta finalizó sus esfuerzos de diversidad, equidad e inclusión (DEI) para contratar y capacitar empleados. ¿Meta priorizó los intereses de los usuarios o simplemente tomó la decisión basándose en el clima político?

Es posible que nunca obtengamos una respuesta oficial a eso. Pero el daño que tales fracasos pueden causar es de gran alcance. Puede afectar a todas las personas que provienen de un grupo minoritario, ya sea religioso, político, cultural o social, sólo por nombrar algunos.

“Los recientes anuncios de Meta sobre políticas de contenido representan una grave amenaza para las comunidades vulnerables en todo el mundo y aumentan drásticamente el riesgo de que la empresa contribuya una vez más a la violencia masiva y a graves abusos contra los derechos humanos”, afirmó Amnistía Internacional .

Jamie Krenn, profesor asociado de la Universidad de Columbia y del Sarah Lawrence College, dice a Digital Trends que las plataformas de Meta corren el riesgo de convertirse en un caldo de cultivo para narrativas falsas y dejar a los usuarios vulnerables a la manipulación.

“La experiencia en verificación de hechos juega un papel crucial en el mantenimiento de este equilibrio, asegurando que la libertad de expresión esté respaldada por una base de verdad. Sin él, corremos el riesgo de confundir la opinión con los hechos, un precedente peligroso para cualquier sociedad”, afirma Krenn, que tiene un doctorado en estudios cognitivos.

Esto no es una solución para el problema de Meta.

“El despliegue de Notas de la comunidad para reemplazar la verificación de hechos contribuye poco a llenar el espacio, pero las grandes empresas tecnológicas han calculado que enfatizar la libertad de expresión era una mejor medida política con los legisladores y reguladores que otras reformas”, dice a Digital Trends Jeff Le, experto en asuntos globales y políticas públicas, y ex subsecretario del gabinete del estado de California.

La verificación de hechos es un proceso riguroso y, sin un análisis de expertos, puede convertirse en un problema enorme. La Organización de las Naciones Unidas (ONU) advierte que los hechos a menudo pueden tergiversarse, especialmente en tiempos de conflicto, y pueden afectar la paz, la seguridad y los esfuerzos humanitarios.

Cuando las redes sociales complacen las sensibilidades de una clase mayoritaria, la verificación de hechos se echa a perder si la misma base de usuarios tiene un comportamiento problemático en línea. Según el informe de Amnistía sobre el genocidio rohingya en Myanmar, la difusión masiva de mensajes de odio “incrementó sustancialmente el riesgo de un estallido de violencia masiva”.

Aquí está la parte más preocupante. Dejando a un lado las fallas de moderación de contenido de Meta, incluso si una publicación tiene una nota de la comunidad adjunta, es posible que esa publicación no se elimine o que su visibilidad sea limitada. Continuará allí, a menos que se informe y Meta decida tomar medidas.

Parece poco probable que esto último suceda. En enero de este año, la compañía también aflojó sus esfuerzos de moderación de contenido y diluyó su política de conducta de odio. Según la Campaña de Derechos Humanos , debido a estas nuevas políticas, “las personas LGBTQ+ sufrirán desproporcionadamente acoso y abuso, sin ningún acceso a recursos”.

Le, que también ha hecho campaña con éxito contra la legislación anti-LGBTI y anti-inclusión en varios estados, también se refirió a las medidas recientes adoptadas por las empresas de redes sociales, como restricciones de edad y controles parentales para proteger a los grupos vulnerables.

"Es probable que este no sea el camino hacia una reforma significativa o una mayor confianza en las plataformas en el futuro", le dice a Digital Trends. Yaron Litwin, CMO de una empresa llamada Canopy que fabrica software de control parental, dice que estos cambios pueden conducir a un "deterioro de los discursos en línea".

Agrega que deberíamos buscar más formas de abordar los problemas en las redes sociales, y al mismo tiempo señalar cómo el contenido generado por IA está planteando una nueva vía de desafío, incluso para los verificadores de datos. Como nota al margen, a principios de este año, Meta comenzó a impulsar personajes generados por IA y también está por llegar una nueva aplicación de edición de video impulsada por IA.

Una solución fundamentalmente problemática

La idea de las Notas de la comunidad en las redes sociales no es mala, pero es un desafío monumental por muchas razones. Podría resultar contraproducente por la misma razón por la que Meta puso fin a su programa de verificación de datos, que por lo demás estaba a cargo de expertos reales y agencias certificadas.

"Un programa destinado a informar se convierte con demasiada frecuencia en una herramienta para censurar", afirmó Meta, cuando anunció sus planes de poner fin a la iniciativa. La razón principal fue el sesgo entre los verificadores de datos, según la empresa.

“Los expertos, como todos los demás, tienen sus propios prejuicios y perspectivas. Esto se manifestó en las decisiones que algunos tomaron sobre qué verificar y cómo”, razonó Meta. Aquí está la parte que falta de la trama.

Los redactores de Notas de la comunidad también pueden ser parciales. Incluso más que las agencias certificadas de verificación de datos, que de hecho firman un compromiso de permanecer transparentes y someterse a controles anuales. Acabamos de ver que eso sucedió en X, la plataforma que inspiró a Meta en primer lugar, X.

“Desafortunadamente, los gobiernos y los medios tradicionales juegan cada vez más con @CommunityNotes. Trabajando para solucionar esto”, compartió el jefe de X, Elon Musk, hace apenas un día. Esto va en contra del espíritu general de tener un grupo de personas de todos los orígenes que agreguen información objetiva para cuestionar lo que se afirma en una publicación problemática en las redes sociales.

Desafortunadamente, @CommunityNotes es cada vez más objeto de juego por parte de gobiernos y autoridades. medios heredados.

Trabajando para solucionar esto…

¡¡Debería ser completamente obvio que una encuesta controlada por Zelensky sobre su PROPIA aprobación no es creíble!!

Si Zelensky era realmente amado por el pueblo de Ucrania, él… https://t.co/gy0NjtPwiq

– Elon Musk (@elonmusk) 20 de febrero de 2025

Esencialmente, una plataforma de redes sociales decide arreglar de manera arbitraria y no transparente un sistema totalmente independiente y de colaboración colectiva, solo porque estaba marcando contenido que no se alinea con los gustos y disgustos de sus propietarios.

Además, si el razonamiento de Musk de “ser cada vez más engañado” se toma en serio porque apuntaba a un determinado punto de vista, entonces claramente perdió el tren. Y dado el reciente giro del propietario de Meta, Mark Zuckerberg, hacia un diálogo más libre de expresión, el sistema podría encontrarse con problemas similares en Facebook e Instagram.

El bombardeo de reseñas , ya sea legítimo o malicioso, ha sido una realidad en la Internet moderna durante años, y no será diferente con las Notas de la comunidad. Epic Games tuvo que crear un sistema de calificación de usuarios completamente nuevo para manejar el bombardeo de reseñas.

Si un determinado grupo, persona o evento es considerado positivo por un grupo, puede atraer la ira del otro, armado con sus propios hechos. Esto es particularmente cierto cuando la geopolítica y la cultura entran en escena.

¿Cómo decidirá Meta qué enlace es una fuente confiable compartida en la nota de la comunidad? ¿Será la comunidad de Meta imparcial y poco transparente al juzgar la confiabilidad de las fuentes de noticias? ¿Las cifras de participación de la audiencia influirán? Si es así, un determinado canal de noticias sesgado con una audiencia de millones puede fácilmente superar a una fuente más pequeña pero confiable en otro mercado. Ése es un problema fundamental.

India es el mercado más grande para Facebook, con más de 300 millones de usuarios, al igual que Instagram. Si los contribuyentes en India citan una fuente de noticias local (con una audiencia mucho mayor que un medio local en EE. UU.) para obtener información, ¿Meta dará prioridad a su nota comunitaria incluso si es parcial o incorrecta?

Esto se vuelve aún más complejo cuando el sesgo de los medios de comunicación es evidente en todo el mundo. Quién decidirá la confiabilidad de las “fuentes de noticias” para las notas comunitarias en Facebook e Instagram sigue siendo un misterio. Sería interesante ver cómo Meta equilibra todo y evita otro alboroto impulsado por las redes sociales que atrapa a unos pocos miles de millones de usuarios.