En una era digital en la que a los consumidores les cuesta discernir qué es real y qué es falso, McAfee, una de las principales empresas independientes de ciberseguridad del mundo, anuncia su tecnología de detección de audio Deepfake impulsada por IA, conocida como Proyecto Mockingbird, en el Consumer Electronics Show.

Esta nueva tecnología patentada se desarrolló para ayudar a defender a los consumidores contra la creciente amenaza de los ciberdelincuentes que utilizan audio fabricado generado por IA para llevar a cabo estafas que roban dinero e información personal a las personas. Así, permiten el ciberacoso y manipulan la imagen pública de figuras prominentes.

Las herramientas de IA generativa han facilitado a los ciberdelincuentes la creación de estafas muy convincentes, como el uso de la clonación de voz para hacerse pasar por un miembro de la familia en apuros y pedir dinero. Otros, a menudo llamados cheapfakes, pueden implicar la manipulación de videos auténticos, como noticieros o entrevistas con celebridades, uniendo audio falso para cambiar las palabras que salen de la boca de alguien. Esto hace que parezca que una figura conocida o de confianza ha dicho algo diferente a lo que se dijo originalmente.

Tasa de precisión actual del 90%

Anticipándose al desafío cada vez mayor que enfrentan los consumidores al distinguir el contenido real del manipulado digitalmente, McAfee Labs, el brazo de innovación e inteligencia de amenazas de McAfee, ha desarrollado un modelo de IA avanzado líder en la industria entrenado para detectar audio generado por IA. La tecnología Project Mockingbird de McAfee utiliza una combinación de modelos de detección contextuales, conductuales y categóricos basados ​​en IA para identificar si el audio de un vídeo probablemente haya sido generado por IA. Con una tasa de precisión actual del 90%, McAfee puede detectar y proteger contra contenido de IA creado para cheapfakes o deepfakes maliciosos. De esta manera, ofrece capacidades de protección incomparables a los consumidores.

«Con las últimas capacidades de detección de IA de McAfee, brindaremos a los clientes una herramienta que opera con más del 90% de precisión para ayudar a las personas a comprender su mundo digital y evaluar la probabilidad de que el contenido sea diferente de lo que parece», afirmó Steve Grobman, director de tecnología de McAfee. «Nuestra tecnología te brinda información para tomar decisiones informadas sobre si el contenido es lo que parece ser».

La protección en la era de la IA a un nivel completamente nuevo

“Los casos de uso de esta tecnología de detección de IA son de gran alcance y resultarán invaluables para los consumidores en medio de un aumento de estafas y desinformación generadas por IA. Con las características de detección de audio deepfake de McAfee, pondremos el poder de saber qué es real o falso directamente en manos de los consumidores. Ayudaremos a los consumidores a evitar estafas ‘falsas y baratas’ en las que una celebridad clonada reclama un nuevo obsequio por tiempo limitado. También nos aseguraremos de que los consumidores sepan instantáneamente cuando ven un video sobre un candidato presidencial, ya sea real o generado por IA con fines maliciosos. Esto lleva la protección en la era de la IA a un nivel completamente nuevo. Nuestro objetivo es brindar a los usuarios la claridad y la confianza para navegar por los matices de nuestro nuevo mundo impulsado por la IA, para proteger su privacidad, identidad y bienestar en línea”, continuó Grobman.

Por último, la compañía ha hecho las primeras demostraciones públicas del Proyecto Mockingbird en el Consumer Electronics Show 2024. La presentación de esta nueva tecnología de IA también era una prueba más del enfoque de McAfee.