¿Qué son los deepfakes?

Debido a los grandes avances en inteligencia artificial, los humanos nos podemos llegar a enfrentar a situaciones en las que dudemos de la verosimilitud de lo que estamos viendo. Esto es lo que puede sucedernos cuando nos encontramos con los deepfakes y en AstraTech Consulting os lo vamos a contar.

Deepfakes: ¿qué son?

Los deepfakes son archivos de vídeo, voz o imagen que han sido manipulados gracias a un software de IA (inteligencia artificial) que los hace parecer originales.

La existencia de los deepfakes se remonta a finales de la década de los 90. Sin embargo, no fue hasta 2017 cuando cobraron real interés. La razón: un usuario de Reddit hizo público material de contenido pornográfico falso, usando los rostros de actrices mundialmente famosas.

El término “deepfake” proviene de:

• Por un lado, “deep learning”, el aprendizaje profundo, que es un tipo de aprendizaje automático de la IA.
• Por otro, “fake”, falso, debido a que este tipo de archivos es siempre simulado, aunque pueda parecer lo contrario.

Los programas de inteligencia artificial empleados en la realización del deepfake tienen una capacidad de modelado muy alta y tratan de asemejarse lo máximo al funcionamiento de las redes neuronales y del cerebro de las personas. Eso es lo que hace que nuestros esquemas mentales y sesgos cognitivos nos traicionen y consigan engañarnos fácilmente.

¿Cómo se realiza un deepfake?

Para crear un deepfake, la IA recrea una imagen, bien de una cara u objeto, aprendiendo de miles de imágenes existentes de esos mismos elementos.

Para ello, emplea las redes neuronales generativas con algoritmos que pueden aprender de patrones que hay en las imágenes. Logra así reproducirlos, creando otras imágenes nuevas del mismo rostro u objeto.

De un modo similar también es capaz de recrear voces.

Para la realización de deepfakes existen diversas herramientas que pueden trabajar por sí solas, sin la intervención humana. No obstante, se necesita de un equipo informático con un procesador gráfico bastante potente.

El procesado de las imágenes puede conllevar varios días, aunque solo sea para unos escasos minutos de vídeo.

Los deepfakes más habituales son los de famosos, debido a la cantidad de material gráfico online que hay disponible de ellos. Sin embargo, se pueden realizar sobre cualquier persona si se dispone de imágenes y vídeos suficientes de la misma. Algo que, hoy en día, es bastante sencillo gracias a nuestra constante exposición en redes sociales.

¿Para qué se utilizan los deepfakes?

Los deepfakes se emplean para intentar inducir a error a las personas que reciben estos archivos.

Como se ha comentado, estos materiales pueden modificar rasgos físicos o características de la voz de una persona y hacerla pasar por otra.

Por ejemplo, se puede conseguir que un político diga algo en un vídeo algo que en realidad nunca diría con el fin de empañar su imagen o afectarle en una campaña electoral.

Es por ello que algunos expertos consideran que los deepfakes son una evolución intencionada de las fakes news, que quiere lograr manipular a las masas gracias a que estos archivos son difundidos por Internet y en redes sociales.

Además de la manipulación masiva, hay otro tipo usos negativos que se le da a este material falsificado. Por ejemplo:

• Suplantación de identidad para estafar.
• Desestabilizar relaciones internacionales.
• Manipulación de los mercados financieros.

Por suerte, la tecnología, como tal, es inofensiva. Todo depende del uso que le den las personas y este no siempre es malo.

Los usos positivos del deepfake

Entre los usos legítimos de los deepfakes se encuentran los siguientes ejemplos.

• Cultura: el museo de Salvador Dalí en Saint Petersburg tiene una recreación de la imagen y la voz del pintor para la cual se usaron más de 6.000 fotogramas y unas 1.000 horas de aprendizaje automático.
• En la televisión y en el cine: un ejemplo muy reciente del uso del deepfake es el exitoso anuncio de una conocida marca de cerveza en el que sale la artista Lola Flores, fallecida en 1995.
• Periodismo y documentales: entre otros casos, el documental Welcome to Chechnya fue el primero en emplear deepfakes para proteger la identidad de las personas que participaron en la película, ya que trata el tema de la persecución de personas del colectivo LGBT en Rusia.
• Medicina: se emplean las redes neuronales generativas adversas (GAN) para crear gemelos digitales e imágenes nuevas de los tumores cerebrales. Con ellas es posible entrenar modelos de machine learning en los casos en los que no se dispone de una base real de imágenes tan extensa como se necesita.

Los tipos de deepfakes que existen

Son dos los tipos de deepfakes que existen y cuyo uso está cada vez más extendido.

Los Deepfaces

Se trata de imágenes creadas desde cero, muy convincentes, pero totalmente falsas.

Gracias al trabajo del aprendizaje automático de la IA, se generan imágenes estáticas a partir de otras, con el fin de crear una secuencia de vídeo.

Luego, se escoge un vídeo ya existente y se reemplaza a la persona que aparece en él por la “creada”.

Los Deepvoices

Este ejemplo de deepfake es el que reemplaza la voz de una persona en un audio. El fin es hacer que parezca que la persona dijo algo que no es real, ya que es una falsificación de su voz.

Ejemplos de Deepfakes

¿Se pueden detectar los deepfakes?

Realmente es muy difícil detectar un deepfake, puesto que son trabajos muy convincentes. Sin embargo, los expertos señalan algunos aspectos que se pueden tener en cuenta a la hora de intentar identificarlos.

1. El parpadeo en los deepfakes es menor que el de una persona real. El algoritmo aún no ha logrado conseguir ese movimiento sin evidenciar cierta falsedad.
2. La duración de estos audios o vídeos falsos suele ser corta, ya que llevan mucho trabajo. Si, además, el contenido de ese material es muy inverosímil, podría tratarse de un deepfake.
3. Con el fin de hacer que el vídeo sea lo más real posible, a veces se realizan transformaciones en las que se escapan algunos fallos en la imagen digital: bodes borrosos, movimiento algo entrecortado, una piel excesivamente lisa, etc.
4. Al reproducir el vídeo en cámara lenta se pueden llegar a apreciar modificaciones repentinas en la imagen o el fondo.
5. Normalmente los deepfakes solo son imágenes de medio cuerpo para arriba, especialmente de la cara. Esto es así porque editar un cuerpo entero es muchísimo más complicado. Además, los algoritmos de inteligencia artificial no son capaces de copiar con exactitud las características del interior de la boca. Fijarnos en esos detalles, puede dar una pista.
6. En ocasiones el sonido y la imagen tienen una pequeña desincronización.
7. Descubrir el origen del vídeo o la grabación es otra manera de saber si se trata de un deepfake.

El futuro de los deepfakes: ¿amenaza o beneficio?

El avance de las técnicas de deep learning y las redes neuronales proporcionan muchísimos beneficios en el presente y auguran un futuro muy prometedor. Sin embargo, ese propio desarrollo también aumenta el riesgo de amenazas en la sociedad.

Por ello, que el futuro de los deepfakes sea positivo o negativo dependerá del fin con el que sean creados.

A día de hoy, la propia inteligencia artificial ha desarrollado herramientas para detectar estos archivos falsos. No obstante será cuestión de tiempo que los deepfakes sean tan perfectos que esas herramientas no los descubran.

Y así, como el pez que se muerde la cola, de nuevo la IA se pondrá en marcha para mejorar esas herramientas, lo cual se traducirá en un continuo avance en este campo y en Astratech Consulting os seguiremos manteniendo al día de todo lo relacionado con la IA.