Es probable que en algún momento de tu día, cuando revisas tu red social favorita, te hayas encontrado con un video tan real que te cuesta creer que no lo sea, como un discurso de alguien famoso diciendo algo fuera de lugar. Si es así debes tener en cuenta que probablemente te topaste con lo que es un deepfake.

Son un fenómeno que está dando mucho de qué hablar, ya que son videos, imágenes o audios manipulados con inteligencia artificial para que parezcan reales. Esto resulta ser bastante peligroso, ya que pueden imitar voces, expresiones faciales e incluso movimientos corporales. Significa que va mucho más allá de un simple filtro de Instagram o las ediciones básicas que realiza cualquier celular.

Por esa razón, en este artículo de Futuro Eléctrico te hablaremos de todo lo relacionado con el tema, empezando desde qué es deepfake hasta el impacto en la sociedad. Teniendo en cuenta que se trata de algo con lo que hay que ser muy cuidadosos para evitar caer en la desinformación o en situaciones peores.

Tabla de contenidos

¿Qué es deepfake?

Persona buscando contenido en smartphone

Deepfake es un contenido (ya sea un video, imagen o incluso un audio) que ha sido manipulado con ayuda de inteligencia artificial para que parezca real. Una de las características principales de este tipo de contenido es lo auténtico que parece. No tiene nada que ver con los típicos montajes de Photoshop, donde siempre hay algo que se veía extraño.

Con un deepfake, la tecnología logra imitar a la perfección detalles como expresiones faciales, movimientos, tono de voz y hasta gestos característicos de la persona que está siendo “falsificada”. Dentro de los deepfake ejemplos más comunes que se encuentran en internet están los de actores protagonizando una película que nunca filmó o un influencer, famoso o político diciendo palabras que jamás salieron de su boca.

Cuando hablamos de qué es deepfake en informática, hay que tener en cuenta que son una muestra perfecta de lo que las redes neuronales y los algoritmos pueden hacer. Aunque la tecnología detrás de ellos es compleja, el concepto básicamente es una forma de “engaño digital”, donde los sistemas de inteligencia artificial logran copiar a una persona de manera tan detallada que parece 100% real.

¿Cómo se crean los deepfakes?

Fake news | Qué es deepfake

Todo empieza con un sistema de inteligencia artificial que utiliza algo llamado redes neuronales, una especie de cerebro digital. Dichas redes aprenden observando una gran cantidad de datos, como videos o imágenes de una persona en particular.

Luego la IA analiza y descompone todo lo que ve, partiendo de detalles como el movimiento de la boca de esa persona al hablar, cómo frunce el ceño, cuáles son los gestos que repite más, entre otros detalles. Aprende a la perfección cómo actúa, aunque para esto requiere de muchísimas imágenes y videos de referencia. Alguien que sea muy conocido (como un actor o un político) es más vulnerable a este tipo de situaciones.

Seguidamente se utiliza un tipo de algoritmo llamado autoencoder, que se trata de un proceso que consiste en enseñarle a la máquina a dibujar. Es común que al principio haga garabatos, pero con suficiente práctica, termina creando algo impresionante.

Después, la IA “pega” esa versión manipulada sobre otro video o imagen, y aquí es donde se pone en marcha la creación del deepfake. En este punto, la tecnología ajusta los gestos y expresiones para que se mezclen perfectamente con el movimiento del cuerpo y la iluminación. Como resultado se obtiene un video o una imagen bastante realista.

Crear lo que es deepfake requiere mucha potencia de procesamiento y un software avanzado. Sin embargo, el avance tecnológico es tan grande que ya hay aplicaciones que permiten hacer versiones más simples desde el celular, lo que para muchos es algo aterrador.

Tipos de deepfakes

Creación de contenido falso

Lo que es deepfake pueden adoptar diversas formas, cada una con características y aplicaciones específicas. Es importante conocer sus diferencias para comprender cómo se utilizan. Algunos de los principales tipos de deepfakes son:

1. Deepfakes de video

Este es el tipo de deepfake más popular y el que causa mayor sorpresa en el público. Consiste en manipular la imagen de alguien en movimiento para que haga o diga cosas que en realidad nunca pasaron.

2. Deepfakes de audio

Son aquellos donde se utiliza la inteligencia artificial para imitar voces humanas. En este caso, la tecnología analiza todo lo relacionado con la voz de la persona para generar audios que suenen reales.

3. Deepfakes de texto

Aunque no son tan populares como los de video o audio, también existen los deepfakes de texto. En este caso, la inteligencia artificial se utiliza para generar textos que imitan el estilo de escritura de una persona. Esto suele llamar mucho la atención porque puede utilizarse para falsificar firmas en documentos importantes, como contratos.

¿Cómo se pueden detectar lo que es deepfake?

Afortunadamente existen maneras de detectar lo que es un deepfake y aunque no siempre es fácil, hay algunas estrategias que permiten aprender a diferenciar lo real de lo falso. Entre las opciones a las que puedes recurrir están:

Prestar atención a los detalles

Por muy avanzada que sea la tecnología de deepfakes, en casi todos los casos deja pistas evidentes como un parpadeo extraño o inexistente, movimientos antinaturales, especialmente si observas que las expresiones son rígidas o no coinciden con el tono del video; o, también, errores en la sincronización de los labios, debido a que en algunos casos puede haber pequeños desajustes.

Presta atención al audio

Si el contenido que te encuentras incluye audio, presta mucha atención al tono, las pausas y el ritmo de la voz. Trata de encontrar errores como falta de emoción, es decir, cuando la voz suena demasiado plana.

Herramientas tecnológicas

Cuando la observación no es suficiente, la tecnología puede ayudarnos, ya que existen softwares diseñados para detectar lo que es deepfake. Algunas de ellas analizan patrones de píxeles, movimientos faciales y otros elementos. Entre las más conocidas están:

  • Deepware Scanner: Es una herramienta avanzada que analiza los videos para detectar si han sido manipulados con inteligencia artificial. Es una de las más confiables y usadas en casos críticos.
  • Microsoft Video Authenticator: Este es otro programa muy recomendado, ya que examina los fragmentos de un video para detectar que videos son reales.
  • FakeCatcher: Es una plataforma desarrollada por Intel que puede identificar si un video es falso a través de la detección de movimientos faciales que no sean naturales.

Consulta fuentes confiables

Cuando te encuentres con un video que parezca sospechoso lo mejor es que te asegures si es auténtico en fuentes confiables. Basta con hacer una búsqueda rápida en Google para identificar qué tan real es.

Impacto de los deepfakes en la sociedad

Qué es deepfake | Noticia falsa en internet

Lo que es un deepfake han llegado para revolucionar la información que se maneja en los medios digitales y, como cualquier tecnología innovadora, su impacto en la sociedad es significativo. Puede ser visto como bueno o malo, contando con un lado creativo y emocionante, pero también un lado oscuro y no tan agradable.

Si hablamos de los aspectos positivos, no se puede negar que los deepfakes son formas muy auténticas de abrir muchas posibilidades a la creatividad. Por ejemplo, en el mundo del cine permiten traer de vuelta a actores que no se encuentran en el plano terrenal y también se están utilizando para doblaje en películas y videojuegos.

En el marketing y la educación, los deepfakes también tienen un potencial interesante, permiten crear contenido personalizado que conecta con el público de forma impresionante. Y ya existe prueba de eso, porque son muchos los profesores que usan esta tecnología para dar clases de manera más interactiva.

Ahora, cuando nos referimos al lado preocupante, este surge principalmente por la desinformación, partiendo del hecho que uno de los problemas más graves es el uso de este contenido en campañas de noticias falsas.

Otro uso que causa preocupación en las personas está relacionado al ámbito personal, ya que son muchos los casos donde los deepfakes han sido usados para crear contenido íntimo falso. A esto se le suele conocer como «pornografía no consensuada». Alrededor del mundo han sido varias las víctimas de este tipo de videos falsos y el impacto psicológico y social que les genera en su vida cotidiana son muy graves.

Palabras finales

Lo que es deepfake pueden generar noticias falsas, campañas de desinformación, ciberacoso, o incluso un aumento en los fraudes. Sin embargo, hay que recordar que no se trata de satanizar esta tecnología, porque la realidad es que no es “buena” o “mala” en sí misma, sino que todo depende del uso que se le dé.