Preocupante incremento de contenido manipulado y su impacto en la sociedad

En la era de la inteligencia artificial, nos enfrentamos a un problema creciente y preocupante: los deepfakes. Estos son contenidos multimedia falsos creados mediante el uso de algoritmos y técnicas de aprendizaje automático, que permiten superponer el rostro de una persona en videos o imágenes de manera casi indistinguible de la realidad.

La tecnología de los deepfakes ha avanzado rápidamente, lo que significa que ahora es más fácil que nunca crear y difundir contenido manipulado. Desde famosos y famosas hasta personas comunes, cualquiera puede ser víctima de esta forma de engaño digital.

El número de deepfakes en Internet se duplica cada seis meses. Un estudio realizado por la Universidad Northwestern y la Brookings Institution, ambas de Estados Unidos, alerta sobre su potencial peligro para la seguridad. Otros estudios también advierten sobre el riesgo de interferencia y manipulación en los procesos políticos democráticos.

Uno de los usos más preocupantes de los deepfakes es en la industria del porno sin consentimiento. Las mujeres son las principales víctimas de este fenómeno, ya que sus rostros pueden ser fácilmente superpuestos en videos explícitos sin su autorización. Esto plantea serias preocupaciones éticas, legales y de privacidad, y muestra cómo la tecnología puede ser explotada para perpetrar violencia y abuso en línea.

Si bien cualquier persona puede ser vulnerable a que su rostro sea manipulado y utilizado en un video porno, las mujeres se han convertido en las principales víctimas del «fake porn». Recordemos el escándalo surgido en 2019 con la aplicación Deepnude, que utilizaba inteligencia artificial para crear imágenes falsas de mujeres desnudas a partir de fotos reales en las que aparecían vestidas. Aunque la aplicación cerró, las mujeres siguen enfrentando esta vulnerabilidad.

El último ejemplo con Rosalia

Rosalía se vio afectada por la difusión de una fotografía manipulada en la que aparecía supuestamente haciendo topless, la cual se viralizó rápidamente en Internet. El reguetonero JC Reyes (Reyes Cortés) fue quien publicó la imagen en sus historias de Instagram, insinuando que Rosalía se la había enviado personalmente. Sin embargo, nada más lejos de la realidad. En un video en directo, Reyes justificó su comportamiento y confirmó que había editado la imagen él mismo con Photoshop.

Lo ocurrido con Rosalía pone de relieve la problemática que enfrenta Internet debido a los rápidos avances tecnológicos, especialmente el crecimiento y la democratización de la inteligencia artificial. La IA ha ido más allá de conversaciones divertidas con ChatGPT y está impactando directamente en la manipulación de fotografías, volviéndose cada vez más sofisticada.

Como luchar contra los deepfakes

La lucha contra los deepfakes es un desafío constante. Aunque se están desarrollando herramientas de detección de deepfakes, la velocidad a la que se producen nuevos contenidos falsos dificulta su control efectivo. Además, la legislación y regulación en torno a los deepfakes aún están en desarrollo y requieren una atención cuidadosa para garantizar la protección de los derechos y la privacidad de las personas.

Es fundamental fomentar la educación y la conciencia pública sobre los deepfakes, para que las personas sean capaces de reconocer y cuestionar la autenticidad de los contenidos que consumen en línea. También es necesario que las plataformas en línea implementen medidas más estrictas para detectar y eliminar estos contenidos manipulados, así como promover una cultura en línea que desaliente la difusión y el consumo de deepfakes.