Los atacantes ya están utilizando la IA como arma para pulir los mensajes de phishing y mejorar las operaciones de influencia con imágenes sintéticas.

La IA también será crucial para una defensa exitosa, automatizando y aumentando aspectos de la ciberseguridad, como la detección, respuesta, análisis y predicción de amenazas.

El cuarto Informe Anual de Defensa Digital de Microsoft, que cubre las tendencias entre julio de 2022 y junio de 2023 en la actividad de los estados-nación, el cibercrimen y las técnicas de defensa, deja entre sus conclusiones como la inteligencia artificial es una herramienta dual en ciberseguridad.

La rápida evolución de la tecnología ha revolucionado nuestra sociedad en formas inimaginables, y la inteligencia artificial (IA) es una fuerza impulsora detrás de esta transformación. Sin embargo, como toda herramienta poderosa, la IA puede utilizarse tanto para el bien como para el mal. En el ámbito de la ciberseguridad, esta tecnología está generando nuevas amenazas, pero también brindando oportunidades cruciales para defenderse y mitigar riesgos.

Los ciberdelincuentes están aprovechando la IA para mejorar sus tácticas y perfeccionar sus ataques. Desde la optimización de mensajes de phishing hasta la manipulación de imágenes sintéticas para campañas de influencia, la IA se ha convertido en un arma potente en manos equivocadas. Por otro lado, la IA también se está convirtiendo en una herramienta clave para la defensa cibernética.

Automatizando y fortaleciendo aspectos de la ciberseguridad, como la detección, respuesta, análisis y predicción de amenazas, la IA está ayudando a las organizaciones a defenderse de manera más efectiva. Los modelos de lenguaje de gran tamaño (LLM) impulsados por IA pueden generar información y recomendaciones en lenguaje natural a partir de datos complejos, permitiendo que los analistas sean más eficientes y ágiles en su respuesta a las amenazas.

Un ejemplo de cómo la IA está marcando la diferencia en la ciberseguridad es evidente en Ucrania, donde ha contribuido significativamente a defenderse contra los ataques cibernéticos orquestados por Rusia.

La Responsabilidad en la Implementación de IA

La IA está transformando rápidamente muchos aspectos de nuestra sociedad. Para garantizar que esta transformación sea positiva y beneficiosa a largo plazo, es fundamental participar activamente en prácticas de IA responsable. La ética en el desarrollo y uso de la IA se vuelve crucial para mantener la confianza y la privacidad del usuario, además de crear beneficios sostenibles.

Los modelos de IA generativa presentan nuevos desafíos en ciberseguridad. La creación de contenido realista, incluidos texto, imágenes, vídeo y audio, a través de IA genera preocupaciones sobre la difusión de información errónea y la creación de código malicioso. Es fundamental que las prácticas de ciberseguridad y los modelos de amenazas evolucionen para abordar estos desafíos emergentes.

Otros datos del informe: Auge de los Ataques de Ransomware y fatiga de contraseñas y autenticación multifactor

Los ataques de ransomware operados por humanos han experimentado un aumento alarmante, registrando un aumento del 200% desde septiembre de 2022, según la telemetría de Microsoft. Estos ataques, en su mayoría ejecutados por operadores humanos, se dirigen a organizaciones enteras y suelen implicar peticiones de rescate personalizadas.

Es preocupante observar cómo los atacantes están utilizando técnicas avanzadas, como el cifrado remoto, para minimizar su huella y hacer que la reconversión basada en procesos sea ineficaz. Además, los ataques ahora se centran en obtener acceso a dispositivos no gestionados o de usuarios que utilizan sus propios dispositivos en el entorno laboral.

Una de las amenazas más inquietantes es la amenaza de revelar información robada para presionar a las víctimas a pagar, es decir, los chantages o extorsiones. Esta táctica añade un nivel adicional de presión sobre las organizaciones ya afectadas.

Aunque la autenticación multifactor (MFA) es una defensa efectiva contra los ataques, los actores de amenazas han encontrado formas de aprovechar la «fatiga de MFA». Esta fatiga se manifiesta en intentos constantes de bombardear a los usuarios con notificaciones de MFA, en la esperanza de que cedan y proporcionen acceso.

Microsoft ha observado un dramático aumento en los ataques basados en contraseñas contra identidades en la nube, especialmente en el sector educativo. La fatiga de MFA y los ataques basados en contraseñas subrayan la necesidad de adoptar enfoques más avanzados y adaptables en ciberseguridad.