TikTok despide a cientos de moderadores de IA mientras Instagram culpa a los humanos por sus propios problemas
ByteDance, la compañía detrás de la plataforma de redes sociales de video TikTok , habría despedido a cientos de moderadores de contenido humano en todo el mundo mientras realiza la transición a un esquema de moderación centrado en la IA.
La mayoría de los aproximadamente 500 puestos de trabajo perdidos se encontraban en Malasia, informa Reuters . Según la empresa, ByteDance emplea a más de 110.000 personas en total. "Estamos haciendo estos cambios como parte de nuestros esfuerzos continuos para fortalecer aún más nuestro modelo operativo global para la moderación de contenido", dijo un portavoz de TikTok en un comunicado.
Actualmente, la empresa utiliza una combinación de moderadores de contenido humanos y de inteligencia artificial, y las máquinas manejan aproximadamente el 80% del trabajo. ByteDance planea invertir unos 2 mil millones de dólares en sus esfuerzos de confianza y seguridad en 2024. Los despidos se producen cuando ByteDance enfrenta un mayor escrutinio regulatorio en el país, que ha experimentado un aumento en publicaciones dañinas e información errónea en las redes sociales este año.
En Estados Unidos, el director de Instagram, Adam Mosseri, anunció el viernes que la reciente avalancha de Instagram y Threads que bloquearon cuentas de usuarios, bajaron la clasificación de las publicaciones y las marcaron como spam fueron producto de errores cometidos por moderadores humanos, en lugar del sistema de moderación de inteligencia artificial de la compañía. Afirma que los empleados estaban "haciendo llamadas sin que se les proporcionara el contexto sobre cómo se desarrollaron las conversaciones, lo cual fue un error".
Sin embargo, los humanos no fueron enteramente culpables, aclaró Mosseri. "Una de las herramientas que construimos no funcionaba", admitió, "por lo que no les mostraba suficiente contexto".
En los últimos días, los usuarios de ambos sitios encontraron sus cuentas bloqueadas y posteriormente inhabilitadas por violar las restricciones de edad de las plataformas, que impiden que las personas menores de 13 años tengan sus propias cuentas. Según The Verge , esas cuentas permanecieron bloqueadas incluso después de que los usuarios subieron la verificación de su edad.
Las relaciones públicas de la compañía se separaron de la postura de Mosseri y le dijeron a TechCrunch que "no todos los problemas que habían encontrado los usuarios de Instagram estaban relacionados con moderadores humanos". Según el PR, el problema de la verificación de edad aún se está investigando.