¿Preocupado por la advertencia falsa del FBI? Sigue estos consejos de expertos

La semana pasada, la Oficina Federal de Investigaciones (FBI, por sus siglas en inglés) emitió un anuncio de servicio público sobre el aumento del contenido explícito falso profundo y cómo se está utilizando para delitos como extorsión, chantaje y acoso. En los términos más simples, un deepfake es un material multimedia sintético que intenta imitar un original . Puede ser una foto, video o clip de audio de generación de IA.

El nombre "deepfake" proviene de la tecnología inherente utilizada en la creación de dichos medios (aprendizaje profundo), que implica entrenar un modelo de IA utilizando material original y luego modificarlo para generar los resultados deseados. No es exactamente un invento nuevo, pero con la explosión de popularidad y acceso de la IA generativa , los delitos de falsificación están en aumento.

Tal es su popularidad que incluso la campaña del candidato presidencial republicano Ron DeSantis usó imágenes falsas del rival Donald Trump para difamarlo. Los deepfakes también son una de las razones por las que se están planteando en todas partes llamamientos para regular la IA. Según el FBI, el contenido para generar deepfakes generalmente se extrae de publicaciones en redes sociales y clips de videollamadas antes de modificarse en materiales sexualmente explícitos para extorsión e intimidación.

Lo que dicen los expertos sobre los deepfakes

Entonces, ¿cuál es la solución? Desafortunadamente, no hay solución. Al menos, no sin hacer un compromiso, uno que fundamentalmente cambia todo el significado de "redes sociales" de cabeza.

"Desafortunadamente, la única forma de asegurarse de que ninguna de sus fotos o videos se use para crear falsificaciones profundas es dejar de publicar fotos de usted mismo en línea, pero eso sería muy divertido para los usuarios de Internet", dice Adrianus Warmenhoven, un asesor de ciberseguridad en Nord .

“A medida que surjan nuevas y mejores prácticas de seguridad, los actores malintencionados encontrarán la manera de causar daño. Es un juego de ponerse al día y a veces se siente decepcionante”, dice Parteek Saran, un ex-Googler y creador de una herramienta de gestión de contraseñas de última generación llamada Uno . Además, sugiere que uno debe tratar de adoptar una "filosofía de confianza cero" cuando se trata de publicar contenido en las redes sociales y enfatiza la comunicación efectiva con conocidos para evitar estafas falsas.

“Si bien la IA puede ayudar a abordar las preocupaciones de seguridad digital, no existe una red de seguridad infalible”, dice Yaron Litwin, experto en seguridad digital y CMO de Canopy . La aplicación homónima de la compañía tiene como objetivo mantener a los niños a salvo de los delitos sexuales en línea y también ofrece un conjunto diverso de controles parentales. Litwin agrega que debe evitar publicar imágenes íntimas o comprometedoras y, al mismo tiempo, reducir la frecuencia de publicación incluso de imágenes normales.

Cómo puedes mantenerte a salvo

Los deepfakes son aterradores y es difícil imaginar el trauma que pueden infligir a una persona y a sus familiares. Pero hay algunas formas en las que los usuarios pueden evitar caer en la trampa, o al menos mantenerse alejados en gran medida.

Para entender qué pasos pueden tomar los usuarios promedio de teléfonos inteligentes con habilidades digitales típicas, contacté a Andrew Gardner, vicepresidente de investigación e innovación en Gen Digital , una compañía de software que ofrece herramientas de seguridad confiables como Norton, Avast y Avira, entre otras.

Gardner dice que los protocolos de seguridad comienzan en el nivel fundamental. Los usuarios deben comenzar por hacer que sus perfiles sean privados, o al menos cambiar la configuración de visibilidad de las publicaciones para que solo las personas a las que siguen mutuamente puedan ver e interactuar con sus publicaciones. Los controles parentales , que ahora están disponibles para casi todas las principales plataformas de redes sociales, deben habilitarse diligentemente para que los tutores puedan vigilar cualquier interacción sospechosa.

Es consejo general que uno solo debe aceptar solicitudes de personas que conoce, pero dar un paso adicional puede ser muy útil. “Si está trabajando en red, verifique las publicaciones y actividades recientes de los invitados para evaluar qué tan reales son”, dice Gardner, y agrega que uno debe tener cuidado con las “cuentas con pocos amigos o amigos en común”. Otro consejo crucial que el ejecutivo de Gen Digital tiene que dar es verificar y restringir los inicios de sesión en las redes sociales.

Los usuarios visitan a menudo los servicios en línea y, para evitar la molestia de crear una cuenta, optan por la opción de inicio de sesión en las redes sociales. “Esto le da a las aplicaciones acceso a información personal y, en algunas situaciones, esas aplicaciones venden esa información a terceros”, dice. El escándalo de Cambridge Analytica que involucra a Facebook es un gran ejemplo. Se debe verificar periódicamente qué aplicaciones están conectadas a sus cuentas de redes sociales y, a menos que sea necesario, se debe revocar su acceso.

Los deepfakes son delitos sofisticados impulsados ​​por IA, pero Gardner sugiere que los usuarios aún deben cumplir con algunas pautas básicas de seguridad, como habilitar la autenticación de dos factores, usar contraseñas seguras, habilitar claves biométricas y evitar enlaces sospechosos o desconocidos.

Las redes sociales se hacen de manera segura y responsable.

Litwin de Canopy opina que cuanto más compartes, más fácil se vuelve crear deepfakes convincentes. No hay escasez de modelos sombríos de generación de imágenes de IA sin restricciones para crear material explícito. Estas herramientas se basan en entradas de imágenes para entrenar el modelo. Cuantos más datos de entrenamiento se alimentan, más precisos y realistas se vuelven los deepfakes.

Es la táctica estándar implementada por los principales generadores de imágenes de IA como MidJourney . Si su feed social está abierto y tiene una gran cantidad de fotos y videos, no hay forma de evitar que un mal actor los raspe para crear deepfakes comprometedores. Pero si se encuentra entre las personas que ven valor en las redes sociales como un lugar para preservar sus recuerdos más preciados, hay algunas medidas que debe tomar.

“Tenga cuidado con la información personal que comparte en línea, ajuste la configuración de privacidad en sus cuentas, habilite la autenticación de dos factores y revise cuidadosamente las imágenes en busca de imperfecciones”, señala Boyd Clewis , un experto en seguridad cibernética del Consejo de Seguridad de Forbes y autor de “Through El cortafuegos: la alquimia de convertir la crisis en oportunidad”.

Pero, ¿cómo detectar de manera confiable un perfil de redes sociales que probablemente tenga un mal actor detrás involucrado en actos turbios como la creación y difusión de deepfakes? “Si se comparte material de video o audio de perfiles sospechosos, y las cuentas no contienen información personal o fotos, es probable que el perfil sea falso”, sugiere Tomas Samulis, arquitecto de seguridad de la información en Baltic Amadeus. Sugiere que dichos perfiles que carecen de información de identificación personal se crean específicamente para difundir falsificaciones y otra información controvertida”.

Qué hacer si te falsifican profundamente

Pero hay tantas precauciones que un usuario promedio de teléfonos inteligentes puede tomar. Incluso los usuarios con más conocimientos digitales se encuentran en el extremo receptor de los delitos cibernéticos, incluso después de usar todas las herramientas estándar, como la autenticación de dos factores, los perfiles privados y los firewalls biométricos.

Si, a pesar de tomar todas las precauciones, aún se encuentra en el centro de un delito de falsificación profunda, busque el asesoramiento de expertos y la ayuda de las autoridades en lugar de tomar el asunto en sus propias manos. Los expertos señalan que soportar tal acoso o tratar de manejarlo discretamente por su cuenta a menudo empeora la situación de las víctimas.

“Si descubre que alguien está haciendo un mal uso de su contenido, busque un abogado familiarizado con la ley de derechos de autor para que lo ayude a eliminar el contenido lo más rápido posible”, dice Rob Scott, miembro de la Asociación de Abogados de Dallas y experto legal autorizado en áreas como la seguridad cibernética. riesgo y privacidad de datos.

Consultar a un experto legal es crucial porque puede guiarlo a través de sus derechos digitales. Litwin de Canopy también sugiere preservar toda la evidencia, aconsejando a las víctimas que "documenten cualquier evidencia de los intentos de extorsión, como mensajes, correos electrónicos o cualquier forma de comunicación relacionada con la extorsión.”

Otro consejo crucial es que la víctima debe cesar de inmediato todo contacto con un delincuente porque el delincuente puede manipularlo o acosarlo aún más con demandas de extorsión más graves. Al mismo tiempo, los usuarios deben ponerse en contacto con un experto en seguridad cibernética o llamar a una de las líneas de ayuda contra delitos cibernéticos del gobierno para tomar las medidas adecuadas a tiempo.

Cómo detectar falsificaciones profundas

Con los motores de IA cada vez más sofisticados, el tipo de falsificaciones profundas que producen se está volviendo inquietantemente real y difícil de detectar. Sin embargo, todavía hay algunos marcadores a los que los usuarios pueden prestar atención para detectar material comprometedor alterado sintéticamente o generado por IA.

La siguiente es una compilación de identificadores falsos profundos que los expertos tienen para ofrecer:

• Esté atento a los movimientos oculares no naturales. Si los ojos de una persona no parecen parpadear, el movimiento de los ojos está apagado o las expresiones faciales no parecen estar sincronizadas con las palabras que dice, lo más probable es que se trate de un clip falso. La falta de emociones, o emociones incoherentes, es un indicador revelador de que los medios se han transformado digitalmente.
• “La tecnología Deepfake generalmente se enfoca en las características faciales”, dice Gardner. “Si la forma del cuerpo de la persona no parece natural, o si sus movimientos son bruscos e inconexos, es probable que el video sea un deepfake”.
• Otro marcador confiable es el fondo, que puede parecer anormalmente borroso o mostrar artefactos visuales extraños. Otra manera fácil de detectar deepfakes es buscar una decoloración anormal o una falta de coincidencia de color grave, especialmente con respecto a la cara y la sombra de los elementos que se encuentran alrededor.
• Si te encuentras con una foto en la que una persona luce un "cabello perfecto" y no puedes detectar ningún elemento individual, como algunos mechones de cabello suelto o encrespado, mantente cauteloso. También se sabe que los modelos de IA tienen problemas con los dientes. Esté atento a los dientes que son antinaturalmente perfectos, o aquellos que carecen de los contornos de los dientes individuales, o tal vez más dientes que la dentadura postiza humana habitual.
• Partes del cuerpo desalineadas, bordes borrosos, algunos dedos de más o menos, extremidades extrañamente contorsionadas, movimiento desincronizado de las partes del cuerpo y una voz que carece de pausas y rupturas emocionales son otros signos que debe vigilar de cerca. “Las grabaciones de voz o audio falsas a menudo tienen ruido de fondo, voces que suenan robóticas y pronunciaciones extrañas”, explica Samulis.

Un problema serio con soluciones medio efectivas

Como se explicó anteriormente, no existe una red de seguridad infalible contra las falsificaciones profundas. Pero si tiene cuidado con dónde comparte fotos, quién puede verlas y hasta dónde llega su acceso a las redes sociales, puede permanecer en una zona relativamente segura.

También se debe prestar atención a quiénes son sus amigos en línea y también examinar las actividades de las nuevas invitaciones antes de agregarlas a su círculo de amigos en las redes sociales. En lo que respecta a las falsificaciones profundas, eso es un poco complicado. Pero si se mantiene alerta y se toma el tiempo para evaluar las inconsistencias en una foto o video sospechoso, las falsificaciones profundas se pueden detectar con un grado de precisión bastante alto.

Al final del día, se trata de cultivar hábitos higiénicos en línea y mantenerse alerta en un espacio en línea cada vez más propenso a la falsificación.