El 88% de los profesionales de seguridad creen que los ataques potenciados en IA son inevitables

En 2013, un equipo de matemáticos expertos en inteligencia artificial de clase mundial estaba trabajando en algunas aplicaciones innovadoras de la inteligencia artificial. Unieron fuerzas con expertos en inteligencia para crear herramientas avanzadas que facilitasen a las máquinas una comprensión mucho más profunda que permite identificar e interrumpir en tiempo real ciberataques de cualquier índole. Así nació Darktrace.  

CyberSecurity News (CSN): Seguramente nuestros lectores conozcan ya Darktrace pero en por si acaso, repasemos en primer lugar sus orígenes. En este sentido, haciendo un breve repaso por la página web, descubrimos que Darktrace fue la primera empresa en aplicar inteligencia artificial en el mundo de la ciberseguridad. Eso ya nos dice mucho pero… ¿qué nos puede contar del recorrido de su compañía a nivel global hasta el momento actual? 

José Badía (JB): A esta herramienta que describíamos en la introducción la llamamos «IA de autoaprendizaje» y, en la actualidad, está conectada a más de 4.700 organizaciones en más de 100 países para protegerse contra todo tipo de amenazas sofisticadas y sigilosas.

Desde nuestros inicios en 2013, hemos dado pasos agigantados en el avance de la IA. En 2016, la oferta de Darktrace se amplió con nuestra tecnología de Respuesta Autónoma, capaz de luchar contra los ataques a la velocidad de un ordenador de parte de los humanos. En 2019, nuestro equipo de I + D hizo posible que nuestra IA cuestionara y narra en lenguaje sencillo sus propios hallazgos. En otras palabras, en lugar de que los equipos de seguridad observen los resultados de la IA y apliquen su propio contexto y entendimiento, la IA ahora también se ocupa de explicar los entresijos de esos incidentes cómo si lo hiciera un analista de seguridad.

Nuestras últimas innovaciones de inteligencia artificial se han centrado en mitigar el riesgo del trabajo descentralizado y la transformación digital acelerada, brindando seguridad desde y hacia la Nube, y las recientes asociaciones con organizaciones como Microsoft han acelerado la protección en todas las herramientas de colaboración virtual.

CSN: Si nos centramos en el mercado español, ¿cuál es su situación actual? ¿Qué objetivos tiene Darktrace marcados para el futuro próximo? 

JB: Los ciberataques son un desafío de la sociedad importante en casi todos los países del mundo, y España no es una excepción. Los ataques rápidos como el ransomware continúan amenazando a los hospitales, las instituciones del sector público y la infraestructura nacional crítica.

 “Los ataques rápidos como el ransomware continúan amenazando a los hospitales, las instituciones del sector público y la infraestructura nacional crítica”

La innovación tecnológica como solución a este desafío, no ha estado entre las prioridades nacionales hasta hace mas bien poco. Sin embargo, a medida que los ataques se están haciendo cada vez más sofisticados y sigilosos, las organizaciones se están alejando de los enfoques tradicionales de seguridad y recurriendo a nuevas tecnologías más dinámicas que pueden mantener el ritmo. 

Esta transición hacia herramientas más punteras ha llevado a que hace poco más de dos años, Darktrace decidiese abrir una oficina en Madrid para dar cobertura a la creciente lista de clientes que buscan adoptar un enfoque radicalmente diferente de la ciberseguridad.

Es un momento ilusionante para Darktrace. Nuestro objetivo es siempre expandir el uso de Ciber IA a nivel mundial y a diferentes partes de la empresa, y esta sigue siendo nuestra visión para el mercado español.

CSN: Pongamos la siguiente casuística: Un empleado recibe un spear phishing. El objetivo del ciberdelincuente, es desplegar malware a toda la red con una simple descarga e instalación de un archivo malicioso. Esto lo conseguiría usando la ingeniería social, intentando provocar las emociones del empleado para que logre realizar la acción de descarga y ejecución. ¿Cómo podría la plataforma de Cyber IA de Darktrace a prevenir esto? 

JB: Hasta la aparición de Antigena Email, una tecnología pionera en el mundo, la seguridad del correo electrónico era un problema crítico, y actualmente el 94% de los ataques aún se originan en la bandeja de entrada.

La realidad es que, con demasiada frecuencia, los empleados de todo el mundo, ocupados haciendo su trabajo, se enfrentan a ataques de correo electrónico de ingeniería social muy convincentes y sofisticados. Éstas siguen siendo la forma más común de que un atacante se infiltre en una organización.

Debido a las técnicas de ingeniería social cada vez más sofisticadas, muchos correos electrónicos maliciosos ahora son prácticamente indistinguibles de la comunicación general y no existen reglas estrictas y rápidas sobre cómo los empleados pueden identificarlos. La formación sobre cómo detectar estos correos electrónicos es importante, pero hoy en día no es suficiente. Las herramientas de filtrado de correo electrónico que comparan los correos electrónicos con las listas negras no son lo suficientemente buenas porque estos correos electrónicos suelen ser novedosos en su contenido.

“Debido a las técnicas de ingeniería social cada vez más sofisticadas, muchos correos electrónicos maliciosos ahora son prácticamente indistinguibles de la comunicación general y no existen reglas estrictas y rápidas sobre cómo los empleados pueden identificarlos”

Por el contrario, Antigena Email aprende el «patrón de vida» único de cada usuario de correo electrónico para identificar los indicadores sutiles de un correo electrónico malicioso. Fundamentalmente, la IA interviene y bloquea el correo electrónico malicioso antes de que pueda llegar a un usuario, conteniendo el ataque antes de que se convierta en una crisis y la empresa pueda continuar en su actividad normal.

CSN: Estamos hablando de los beneficios de la inteligencia artificial en el mundo de la ciberseguridad pero no cabe duda que el cibercrimen también sabe utilizar la IA y lo hace muy bien. ¿Nos podría contar algunos ejemplos de cómo el lado del mal evolucionará sus técnicas en un futuro próximo?

JB: En las redes sociales e Internet en general, ya hemos visto circular «deepfakes»: imágenes o videos que se modifican para difundir deliberadamente información errónea o dañarla reputación figuras políticas, o incluso para la ingeniería social. Pero la IA también se puede utilizar de formas más sutiles, por ejemplo, para crear correos electrónicos muy convincentes que se hagan pasar por personas de confianza dentro de su red, o para garantizar que el malware se dirija a los conjuntos de datos de mayor valor dentro de una red corporativa. Esto se conoce como «IA ofensiva» y su aparición es una preocupación real para las empresas y los gobiernos.

Tanto el World Economic Forum como Europol han advertido sobre los peligros de la IA ofensiva en informes recientes. Un informe de Darktrace y Forrester el año pasado encontró que el 88% de los profesionales de seguridad creen que los ataques potenciados en IA son inevitables, y un informe del mes pasado de MIT Tech Review encontró que el 96% de los profesionales de seguridad ya se están preparando para la IA ofensiva, y muchos se están viendo obligados a adoptar defensas de IA.

“El 88% de los profesionales de seguridad creen que los ataques potenciados en IA son inevitables, y un informe del mes pasado de MIT Tech Review encontró que el 96% de los profesionales de seguridad ya se están preparando para la IA ofensiva”

Los atacantes siempre buscan mejorar y automatizar sus ataques, y la IA es solo la última herramienta de su arsenal para lograrlo. El malware de IA ofensivo será rápido e inteligente, lo que permitirá a los atacantes acelerar los ataques, atacar a más organizaciones a la vez y evadir las defensas tradicionales. Podemos esperar que se use durante todo el ciclo de vida del ataque, ya sea para usar el procesamiento del lenguaje natural (NLP) para comprender el lenguaje escrito y para crear correos electrónicos de spear-phishing contextualizados a escala, o para la clasificación de imágenes con el fin de acelerar el robo de documentos confidenciales una vez que un entorno se ve comprometido y los atacantes estén en busca de material del que puedan beneficiarse.

La IA defensiva es absolutamente necesaria para luchar contra la IA ofensiva. Los humanos no son rival para los ataques procedentes de máquinas, y los controles de seguridad tradicionales ya están luchando por detectar ataques que nunca antes se habían visto en el mundo real. Solo la IA puede luchar contra la IA, y será una guerra de algoritmos.

CSN: Cuando hablamos de ciberseguridad parece que siempre nos referimos a la preocupación de grandes compañías y organismos públicos pero la realidad es que es una cuestión de preocupación creciente en el mundo pyme y microempresas. ¿Cree que la ciberseguridad real está democratizada y al alcance fácilmente de este colectivo? Recordemos que el nivel de resiliencia aquí es mucho menor y las consecuencias pueden ser equivalentes en muchos casos al cierre permanente de los negocios… 

JB: La ciberseguridad actual es un desafío para prácticamente todas las organizaciones, y hay mucho en juego para todos. Las organizaciones pequeñas y del sector público históricamente se han quedado atrás de las empresas más grandes en madurez cibernética, lo que las convierte en un objetivo más fácil para los ciberdelincuentes, pero esto está cambiando rápidamente.

Afortunadamente, hoy en día, existe tecnología escalable que se adapta a organizaciones de todas las formas y tamaños. En Darktrace, por ejemplo, trabajamos con una amplia gama de organizaciones, desde compañías Fortune 500 hasta organizaciones benéficas de 10 personas. A pesar de la sofisticación de la tecnología, no se requiere un experto en inteligencia artificial o un matemático para navegar por el producto. Un número creciente de organizaciones del sector público, como el Servicio Nacional de Salud (NHS) del Reino Unido, aprovechan hoy esta tecnología de inteligencia artificial de vanguardia para luchar contra los ataques cibernéticos.

 “Un número creciente de organizaciones del sector público, como el Servicio Nacional de Salud (NHS) del Reino Unido, aprovechan hoy esta tecnología de inteligencia artificial de vanguardia para luchar contra los ataques cibernéticos”

CSN: Llevamos mucho tiempo hablando de teletrabajo y realmente hoy ya se da por hecho que es una realidad que ha venido para quedarse de forma permanente, ya sea combinado con modelos híbridos. En este contexto, quizás sería fácil de entender los riesgos del teletrabajo y si es posible tener los entornos controlados en este contexto. ¿Qué consejos podría darnos? ¿Cómo abordáis el teletrabajo seguro desde su compañía? 

JB: La pandemia puso a prueba las ciberdefensas de las organizaciones. Rápidamente quedó muy claro que la seguridad estática, basada en reglas sobre lo que es «bueno» y «malo», simplemente no podía seguir el ritmo de los entornos cambiantes para los modelos de trabajo dinámicos.

El desafío para las organizaciones hoy en día no es crear reglas de seguridad nuevas y actualizadas para un mundo nuevo, o incluso lanzar a más personas al problema, sino que adoptar tecnologías de vanguardia puede defender su negocio en constante evolución.

La buena noticia es que la inteligencia artificial ya ha dado grandes pasos en esta área. Lo bueno de la IA es que es muy buena para manejar la incertidumbre y el cambio: aprende lo que es normal y luego lo vuelve a aprender y lo vuelve a aprender, por lo que reevalúa constantemente sus suposiciones. Esto significa que puede mantenerse al día con entornos que cambian rápidamente: la cantidad de dispositivos en la red, las plataformas de software y las herramientas que se utilizan, el comportamiento de los usuarios, todas estas son variables, nunca son estáticas.

Deja un comentario

Tu dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

TE PUEDE GUSTAR

RECIBE LA NEWSLETTER

*Email: *Nombre apellidos: *Empresa: Cargo: Sector:

 
Please don't insert text in the box below!

ARTÍCULOS MÁS RECIENTES

ESCUCHA NUESTRO PODCAST

SÍGUENOS EN RRSS

MÁS COMENTADOS

Ir arriba