Los Deepfakes son fotos, videos y audio creados con software de inteligencia artificial (AI) que partiendo de contenidos reales (imágenes y audio), son capaces de modificar o recrear, de forma extremadamente realista, las características y movimientos de un rostro o cuerpo e imitar fielmente cierta voz. Un Deepfake puede reconstruir contextos y situaciones que nunca ocurrieron realmente. Y si esto se ha realizado sin el consenso de las partes directamente interesadas, todo puede derivar en una seria amenaza para la privacidad y la dignidad de las personas. El 96 % de los vídeos deepfakes son pornográficos. En algunos casos el Deepnude termina en pornografía ilegal y delitos muy graves como la pornografía infantil. Cuando estos contenidos son difundidos en las redes sociales resulta difícil concretar su total cancelación. El Deepfake puede llegar a privar a la personas de su derecho a la “autodeterminación informativa”. Así como afectar su “libertad de toma de decisiones”.

¿Qué ocurriría si un video con tu rostro y voz, en una escena grabadamente aparentemente con un teléfono móvil, te mostrara realizando actos criminales, por ejemplo abusos contra un menor? ¿Y, si además ese video estuviera circulando en redes pedopornográficas? ¿Cómo quedaría tu reputación o imagen en la familia, el trabajo, los amigos? ¿Qué consecuencias tendría esto? ¿Qué implicaciones legales tendría un hecho como este?

El Deepfake no es un juego inofensivo o un simple entretenimiento. Esta tecnología puede ser utilizada por personas con fines maliciosos y por grupos criminales.

Estas preguntas no suponen un escenario abstracto. De hecho ocurre y cualquiera puede verse involucrado. El Deepfake no es un juego inofensivo o un simple entretenimiento. Esta tecnología puede ser utilizada por personas con fines maliciosos y por grupos criminales.  

El concepto deepfake nació de la unión de dos términos ampliamente utilizados en el argot informático: el deep learning, como se conoce al aprendizaje profundo de los sistemas de inteligencia artificial (AI, por sus siglas en inglés) y el adjetivo fake, falso.

Recientemente la autoridad Garante para la Protección de Datos Personales en Italia,[1] publicó una ficha informativa sobre los riesgos del uso malintencionado de esa tecnología, donde define que:

a.) Los Deepfakes son fotos, videos y audio creados con software de inteligencia artificial (AI) que partiendo de contenidos reales (imágenes y audio), son capaces de modificar o recrear, de forma extremadamente realista, las características y movimientos de un rostro o cuerpo e imitar fielmente cierta voz.

b.) Las técnicas utilizadas por los Deepfakes son similares a los de las distintas aplicaciones de entretenimiento, editando la morfología del rostro, envejeciéndole, cambiándole de sexo, etc. El material de partida son siempre los rostros reales, cuerpos reales y voces reales de la gente, para luego transformarles en «falsificaciones» digitales.

c.) Las tecnologías Deepfakes desarrolladas como ayuda a los efectos especiales cinematográficos, inicialmente eran muy caras y no estaban muy extendidas. Sin embargo, últimamente se comenzaron a difundir aplicaciones, App y softwares que permiten hacer Deepfake muy bien elaborado y sofisticado, utilizando un común smartphone. En consecuencia, la difusión de los Deepfakes ha aumentado significativamente, y con ello los riesgos asociados. 

Las personas que aparecen en un Deepfake sin su conocimiento, no solo sufren una pérdida de control sobre su imagen, también están privadas del control sobre sus ideas y pensamientos

Agrega la autoridad Garante italiana[2] que los Deepfakes son una forma de robo de identidad particularmente grave. Las personas que aparecen en un Deepfake sin su conocimiento, no solo sufren una pérdida de control sobre su imagen, también están privadas del control sobre sus ideas y pensamientos, que pueden ser tergiversados ​​en base a los discursos y los comportamientos falsos que expresan en videos. Pueden estar representadas en lugares, contextos o con personas a las que nunca han frecuentado, o en situaciones que podrían parecer comprometedoras.

En esencia, un Deepfake puede reconstruir contextos y situaciones que nunca ocurrieron realmente. Y si esto se ha realizado sin el consenso de las partes directamente interesadas, todo puede derivar en una seria amenaza para la privacidad y la dignidad de las personas.

Cybercriminals en el negocio del deepfake

                                                                          Cybercriminals

Una investigación del año 2019 revela que, aunque hay vídeos de entretenimiento o de tipo político, el 96 % de los vídeos deepfakes son pornográficos y las cuatro webs más visitadas de este tipo de contenidos aglutinan más de 134 millones de visualizaciones.[3]

 

Los graves riesgos del Deepnude.

 

Los Deepnudes o Deepfakes pornográficos, son imágenes o videos en los cuales las personas son representadas desnudas, revelando partes íntimas del cuerpo, poses insinuantes, o situaciones comprometedoras (por ejemplo, en la cama con supuestos amantes), llegando a configurar hasta escenas pornográficas.

Las mujeres componen el colectivo más afectado. “Los deepfakes pornográficos buscan relevancia y muchas visualizaciones y la industria va mucho más dirigida a hombres que a mujeres”, explica Josep Navarro, profesor colaborador de los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC). Un estudio de enero de 2020 asegura que los programas son cada vez más “eficientes y prácticos” y que, por tanto, se producirán más contenidos Deepfakes para monetizarlos y estos serán más realistas, mientras que los sistemas de control de Facebook o Google van por detrás del avance de estos contenidos. “Cada vez serán más habituales los Deepfakes para extorsionar o atentar contra el honor de las personas normales y no solo el de los famosos.” [4]

Reconocimiento Facial

Reconocimiento Facial

Con la tecnología Deepnude, utilizando un software especial, las caras de las personas, incluidos los sujetos menores de edad, se pueden «insertar» en los cuerpos de otros sujetos desnudos o en poses o actos de naturaleza explícitamente sexual. También es posible tomar imágenes de cuerpos vestidos y «desnudarlos», para luego reconstruirlos con la apariencia que tendría el cuerpo debajo de la ropa. De esta manera se crean imágenes altamente realistas.

Inicialmente el fenómeno Deepnude involucró a personajes famosos con el fin de desacreditarlos o chantajearlos. Ahora, con la creciente difusión de los softwares y las Apps que usan esta tecnología, el riesgo también involucra a la gente común.

Inicialmente el fenómeno Deepnude involucró a personajes famosos con el fin de desacreditarlos o chantajearlos. Ahora, con la creciente difusión de los softwares y las Apps que usan esta tecnología, el riesgo también involucra a la gente común, que puede convertirse en objeto de acciones cuyas consecuencias psicológicas y sociales pueden llegar a ser muy dañinas. Por ejemplo, el “revenge porn” (porno de venganza), es decir, compartir contenidos sexuales en línea con el propósito de chantaje, denigración o venganza, por parte de una ex pareja, amantes o pretendientes rechazados que, en el caso de Deepnude, son obviamente falsos.

También se pueden usar videos de Deepnude, sin el conocimiento de los sujetos representados en las imágenes para alimentar la práctica del sexting (es decir, el intercambio y la difusión de imágenes de desnudos que algunas veces también implica menores).

En algunos casos el Deepnude termina en pornografía ilegal y delitos muy graves como la pornografía infantil.

En Octubre de 2020 fue anunciada la instrucción de un proceso sancionatorio de parte del Garante Privacy italiano[5] contra la plataforma Telegram, por el “Software que desnuda a las mujeres”, luego que se reportara en los medios de comunicación locales, una denuncia que involucraba a más de 700 mil víctimas en Italia.[6]

Un programa automático dentro de Telegram o un “bot” capaz de retocar imágenes en tiempo real para desnudar a los protagonistas, fue utilizado por miles de usuarios. Las imágenes se difundieron, comentaron e incluso votaron en al menos siete chats públicos. Entre las víctimas se encontraban algunas influencer, pero también personas comunes en una forma de “revenge porn”.

El comunicado oficial indica que algunas jóvenes fueron víctimas de un tipo particular de Deepfake, creando «falsificaciones» reales. Las chicas se encontraron, sin su conocimiento, «desnudas» en Telegram. Por esto, el Garante solicitó a Telegram que facilite información, con el fin de verificar el cumplimiento de las normas de protección de datos personales, así como conocer la posible conservación de las imágenes manipuladas y las finalidades de dicho almacenamiento.[7]

Los riesgos del cyberbullying, ciberstalking y otros delitos de odio con Deepfake.

 

Cyberbullying por el negocio del Deepfake

Cyberbullying

Los videos e imágenes que alteran la realidad pueden estar creados con el fin específico de denigrar, burlar, desacreditar, intimidar, amedrentar a sus coetáneos, ejerciendo actos de Bullying a través de las redes sociales y otros medios digitales.

Los adolescentes son naturalmente tendentes a experimentar las nuevas tecnologías y se ha encontrado que el fenómeno de las Deepfake es especialmente difundido en las personas jóvenes. Los videos e imágenes que alteran la realidad pueden estar creados con el fin específico de denigrar, burlar, desacreditar, intimidar o amedrentar a sus coetáneos, ejerciendo actos de Bullying a través de las redes sociales y otros medios digitales. Esto se conoce como ciberbulismo y según el caso, puede ser calificado como otras formas más graves de acoso y difamación, entre ellas el cyberstalking.

Las personas involucradas pueden terminar siendo víctimas de amenazas, chantaje y extorción, pues los autores del Deepfake podrían estar pidiendo dinero a cambio de suprimir los contenidos falseados.

Cuando estos contenidos son difundidos en las redes sociales resulta difícil concretar su total cancelación. Podrían hacerse virales y haberse compartido masivamente. Además, desde las redes sociales cualquiera podría descargarlos, copiarlos y conservarlos en sus dispositivos personales, lo que es muy difícil de rastrear.

Los adolescentes podrían no tener las habilidades emocionales y sociales necesarias para afrontar estas formas de acoso y defenderse adecuadamente. El apoyo familiar y escolar es crucial, así como un adecuado acompañamiento legal que asegure los derechos a la privacidad en el marco de las normas relativas a la protección de datos personales.

 

Un nuevo nivel de Fake News atenta la política.

 

Las campañas políticas que buscan influir en la opinión pública podrían hacer uso de la tecnología Deepfake para involucrar a líderes, celebridades o influencers, mostrando por ejemplo, declaraciones donde estos simpatizan con un determinado movimiento político.

Así mismo, puede ocurrir que los personajes políticos sean representados a través de Deepfake, mientras realizan acciones ilegales o moralmente cuestionables con el objetivo de desacreditarle y de esta manera, influir en el voto a través de la difusión de falsas noticias o Fake News.

El Garante Privacy Italiano[8] señala que el Deepfake puede llegar a privar a las personas de su derecho a la “autodeterminación informativa”, «lo que quiero saber de mí mismo lo decido». Así como afectar su “libertad de toma de decisiones”, «lo que pienso y hago es una elección con la que otros no pueden interferir».

 

El Deepfake como herramienta para los cibercriminales.

Con los Deepfake, los cibercriminales podrían enviar imágenes o videos haciéndose pasar por otros o falsificando la identidad de las personas, lo que se conoce como spoofing (suplantación de identidad), para conseguir la confianza del usuario.

Ya es muy frecuente el uso masivo de emails engañosos con fines de phishing o la obtención ilícita de datos privados de los usuarios para acceder a sus cuentas o datos bancarios. Con los Deepfake, los cibercriminales podrían enviar imágenes o videos haciéndose pasar por otros o falsificando la identidad de las personas, lo que se conoce como spoofing (suplantación de identidad), para conseguir la confianza del usuario y luego sustraer la información sensible con un phishing o acceder a las plataformas de datos con el objeto de realizar un ataque de ransomware.

Se pueden usar caras y voces para engañar a los sistemas de seguridad basados en factores de verificación biométricos faciales y vocales.

Por ejemplo, los mensajes de audio o video Deepfake creados por cibercriminales pueden ser enviados a nuestros colegas de trabajo, amigos o familiares, invitándolos a hacer “Clic” en enlaces maliciosos o abrir archivos adjuntos que exponen los equipos, computadores, teléfonos inteligentes u otros dispositivos a intrusiones peligrosas.

Muchos sistemas digitales actuales como la domótica (automatización inteligente de la vivienda), los asistentes de voz, algunos sistemas bancarios o sanitarios y los dispositivos Smartphone, entre otros; utilizan datos biométricos faciales y de voz como sistema de autenticación para acceder, todo lo cual puede ser recreado con la tecnología Deepfake.

 

¿Cómo detectar un Deep Fake y qué hacer?

 

Las grandes empresas digitales o Big Tech (los gigantes tecnológicos), entre los que se incluyen a:  Amazon, Apple, Google, Facebook y Microsoft, ya están estudiando y aplicando metodologías para contrarrestar los efectos indeseables de las Deepfake a través de algoritmos de inteligencia artificial y Bot automatizados que podrían circular en las redes, capaces de detectar los sistemas que generan estos contenidos e identificar los Deepfakes ya elaborados. De esta manera será posible advertir oportunamente a los usuarios.

Sin embargo, lo más importante desde luego es la capacidad de juicio del usuario frente al uso de la tecnología Deepfake, evitando generar contenidos que puedan derivar en situaciones perjudiciales para otros o para sí mismos.

Algunas señales de alerta para identificar un Deepfake son:

1. Videos poco naturales, por ejemplo con falta de parpadeo o movimientos anormales en los ojos. La boca puede parecer deformada (demasiado grande o pequeña) y con movimientos no acordes con lo que dice. Limitados movimientos faciales así como un tono de piel demasiado uniforme y/o sin cambios de luminosidad. Movimientos repetitivos como secuencias enlazadas a lo largo del video sin naturalidad.

2. Imágenes que pueden parecer pixeladas, granuladas, borrosas o de muy baja calidad; o con encuadres sobrepuestos (imágenes montadas). Imágenes demasiado “planas”, sin sombras o tonos de profundidad natural.

Es preciso agregar que en caso de conocer que el Deepfake ha sido utilizado para cometer un delito, violar la privacidad de alguna persona; o en caso de haber sido víctima de acciones perniciosas a través de un Deepfake, puede comunicarse con las autoridades policiales locales o con la autoridad garante de la protección de datos personales de su jurisdicción.

Pin It on Pinterest