China está intensificando sus esfuerzos para regular su floreciente industria de "humanos digitales", a medida que los avatares de IA con gran capacidad de inmersión emocional —algunos inspirados en seres queridos fallecidos— ganan popularidad en todo el país. Esta medida surge en un momento en que tanto el potencial comercial como los riesgos éticos de esta tecnología se hacen cada vez más evidentes.
El duelo, la tecnología y una industria en crecimiento.
Zhang Xinyu, una mujer de 47 años de la provincia de Liaoning, recurrió a la inteligencia artificial tras la muerte de su padre a causa del cáncer. En colaboración con la empresa Super Brain, creó un avatar digital que se parece a él, tanto en apariencia como en voz, lo que le permite mantener conversaciones en línea. Según declaró a la AFP, esta experiencia la ayudó a sobrellevar el duelo y a recuperar la fortaleza emocional.
Su historia refleja una tendencia más amplia en China, donde los "humanos digitales" generados por IA están ganando popularidad rápidamente. Estos avatares, a menudo con apariencia y comportamiento realistas, se utilizan ampliamente en las redes sociales, especialmente en el comercio electrónico y la creación de contenido. Según la agencia de noticias Xinhua, el sector alcanzó un valor de alrededor de 4100 millones de yuanes (600 millones de dólares) en 2024, con un crecimiento interanual del 85 %.
Sin embargo, no todos ven esta tecnología con buenos ojos. Algunos críticos advierten que estos avatares pueden crear dependencia emocional u ofrecer lo que la propia Zhang describió como "falso consuelo", incluso si los sentimientos subyacentes son genuinos.
La regulación se pone al día
En respuesta a estas preocupaciones, la Administración del Ciberespacio de China ha publicado un borrador de normas destinadas a reforzar la supervisión. La normativa propuesta exige un etiquetado claro del contenido generado por IA y prohíbe la creación de réplicas digitales sin el consentimiento del usuario.
Las normas también buscan prevenir el uso indebido, incluyendo estafas, desinformación y contenido que pueda amenazar la estabilidad social o la seguridad nacional. Las empresas que infrinjan estas directrices podrían enfrentar multas que oscilan entre 10 000 yuanes (1460 dólares) y 200 000 yuanes (29 300 dólares).
La urgencia de la regulación quedó patente tras un incidente viral en el que una anciana interactuó, sin saberlo, con un avatar hiperrealista de su hijo fallecido. El vídeo, ampliamente difundido en las redes sociales chinas, desató un debate sobre si este tipo de usos de la IA representan consuelo o engaño.
Equilibrar la innovación y el riesgo
Según los expertos, el enfoque de China refleja un patrón conocido: un rápido desarrollo tecnológico seguido de una rápida intervención regulatoria. Las autoridades están particularmente preocupadas por la protección de los menores, y las normas propuestas prohíben los sistemas de IA que fomentan la dependencia emocional o simulan relaciones íntimas para niños.
Al mismo tiempo, los actores del sector reconocen que la regulación es inevitable. El fundador de Super Brain ha descrito el borrador de las normas como un paso necesario para equilibrar la innovación con la responsabilidad.
Lo que nos depara el futuro
El borrador de la normativa china está abierto a comentarios públicos hasta principios de mayo, tras lo cual se prevé una aplicación más estricta. El objetivo general del gobierno es acelerar la adopción de la IA manteniendo un control riguroso sobre su impacto social.
A medida que los "humanos digitales" evolucionan de ser una novedad a una herramienta de uso generalizado, el modelo regulatorio de China podría convertirse en un modelo a seguir para otros países que se enfrentan a cuestiones éticas similares, en particular en torno a la identidad, el consentimiento y el poder emocional de la IA.