Los ataques e intentos de fraude haciendo uso de esta herramienta aún no se han propagado, pero los expertos apuntan a que a medio y largo plazo su potencial es tal que se puede convertir en una amenaza similar al ransomware.

En los últimos años, los Deepfake son una práctica muy constante en Internet.  Deepfake es un término acuñado para describir un video o un audio que ha sido manipulado mediante el uso de técnicas de aprendizaje automático para hacer que una persona aparezca decir o hacer cosas que nunca dijo o hizo. Estos videos son creados mediante el uso de un algoritmo de aprendizaje automático llamado Generative Adversarial Networks (GANs), que combina dos redes neuronales para generar contenido artificial de alta calidad.

El mayor peligro de ellos reside en que en el fondo son fraudes que pueden provocar cuando alguien se cree lo que dice ese archivo manipulado y actúa segun lo que le indica. Además, lo que asusta además es la facilidad para crearlos y es que con una aplicación cualquier persona puede crear un vídeo falso pero muy creíble. Si ya es difícil detener la viralización de noticias falsas por la red, imaginemos si se trata de un formato en vídeo con la rapidez que tienen para extenderse por todo Internet.

La tecnología deepfake se utiliza a menudo con fines maliciosos, como la difamación, la extorsión, y la desinformación. Los deepfakes pueden ser utilizados para manipular las elecciones, crear noticias falsas o difamar a una persona. También pueden ser utilizados para crear contenido pornográfico no deseado.

La detección de deepfakes es un desafío en constante evolución, ya que los creadores de deepfakes están desarrollando nuevas técnicas para hacerlos más realistas y difíciles de detectar. Sin embargo, existen algunas técnicas para detectar deepfakes, como el análisis de patrones de movimiento, el análisis de audio y el uso de software especializado.

Es importante ser crítico con los videos y audios que se encuentran en  internet y verificar la autenticidad de las fuentes antes de compartir o creer cualquier contenido sospechoso. También es importante informar a las autoridades y a la plataforma en la que se encuentra el deepfake si se detecta alguno.

Como reconocer un deepfake

Hay varias técnicas que se pueden utilizar para reconocer un deepfake:

1. Análisis de movimiento facial: Una característica común de los deepfakes es que el movimiento facial puede parecer un poco extraño o artificial. Por ejemplo, las bocas pueden moverse de manera sincronizada con las palabras, pero los ojos pueden no seguir el mismo patrón.
2. Análisis de la iluminación: La iluminación en un deepfake a menudo puede ser inconsistente o parecer artificial. Por ejemplo, las sombras pueden parecer extrañas o moverse de manera errática.
3. Detección de artefactos: A veces, los deepfakes pueden contener artefactos visibles como líneas o puntos extraños en la imagen.
4. Análisis de la consistencia temporal: Verificar si la apariencia y el movimiento de la persona en el video son coherentes y consistentes a lo largo del tiempo.

Sin embargo, es importante tener en cuenta que los deepfakes se están volviendo cada vez más sofisticados y realistas, por lo que a veces puede ser difícil detectarlos. Por eso, se recomienda utilizar más de una técnica y, en última instancia, confiar en la verificación de fuentes confiables y la investigación exhaustiva antes de aceptar la autenticidad de un video o imagen.