La Agencia de Ciberseguridad de Catalunya y el Centre of Innovation for Data Tech and Artificial Intelligence (CIDAI) presentan el “Libro blanco sobre la Inteligencia Artificial aplicada a la Ciberseguridad” en el Barcelona Cibersecurity Congress.

El documento destaca la revolución que la aparición de herramientas basadas en la IA, como el ChatGPT, está generando actualmente en el ámbito de la ciberseguridad.

Se analizan los principales casos de uso de la IA para reforzar la ciberseguridad, cómo los actores maliciosos lo utilizan en sus técnicas ofensivas y, también, los riesgos y limitaciones de la IA frente a ciberataques.

La creación de itinerarios formativos especializados y de un entorno colaborativo para compartir datos de forma segura, así como la adopción de un marco legal que asegure la privacidad y un marco ético para conseguir un equilibrio entre avances tecnológicos, intereses empresariales y garantías para la ciudadanía son algunas de las claves que recoge el ‘Libro blanco sobre la Inteligencia Artificial aplicada a la Ciberseguridad‘, para favorecer la adopción de la inteligencia artificial en las diferentes capas y procesos de la ciberseguridad.

El documento, que han presentado la Agencia de Ciberseguridad de Catalunya y el Centre of Innovation for Data Tech and Artificial Intelligence (CIDAI), en el marco del Barcelona Cibersecurity Congress, señala los beneficios que ofrece el uso de tecnologías basadas en la inteligencia artificial en las fases de identificación, protección, detección, respuesta y recuperación para mejorar la gestión de la seguridad, a la vez que destaca la revolución que herramientas como la recién creada ChatGPT supondrán en el uso de la inteligencia artificial en la sociedad y también en el ámbito de la ciberseguridad.

El Director General de la Agencia de Ciberseguridad de Catalunya, Tomàs Roy, destaca que la entidad ha promovido la elaboración del libro blanco a raíz del “papel clave” que la IA jugará en el futuro próximo para afrontar “los principales retos actuales de la ciberseguridad, como la necesidad de mayor capacidad de reacción frente al aumento de ciberataques, el crecimiento de la complejidad operativa y la falta de talento”.

En palabras del director del CIDAI y del Área Digital de Eurecat, Joan Mas, “el CIDAI, en su misión de acercar la innovación tecnológica en IA y datos a los diferentes sectores de la economía catalana, ha reunido a expertos de i2CAT, IDEAI-UPC y Eurecat, todos ellos miembros del CIDAI, para la elaboración de este libro blanco que ofrece una visión práctica del impacto de la IA sobre la ciberseguridad, para que cualquier empresa y agente afectado pueda iniciar o continuar su proceso de transformación digital con los mecanismos necesarios para afrontar el nuevo panorama de amenazas y riesgos emergentes”.

Según apunta el libro blanco, la inteligencia artificial es una tecnología que en varios aspectos se muestra muy efectiva para proteger las infraestructuras y activos digitales de las empresas y organizaciones de los ciberataques, aunque el incremento de la digitalización, tanto en ámbito social como empresarial, genera un mayor número de datos y se hace más difícil protegerlos. En este escenario, el documento sitúa como prioritario integrar soluciones basadas en tecnologías de inteligencia artificial en los sistemas de ciberseguridad.

Por otra parte, el libro blanco señala las limitaciones y barreras que dificultan la implementación de la inteligencia artificial en la ciberseguridad y, por eso, identifica también recomendaciones para superarlas. En primer lugar, estima que son necesarios nuevos itinerarios formativos que incluyan ambas disciplinas y subraya la necesidad de desarrollar entornos colaborativos para el acceso a datos para entrenamiento respetuosos con la normativa en materia de protección de datos, así como espacios de datos (Data Spaces).

Además, indica la necesidad de adoptar un marco legal que asegure la privacidad de los datos, al tiempo que fomente y agilice su compartición. Por último, recomienda la adopción de un marco ético para conseguir un equilibrio entre los avances tecnológicos, los intereses empresariales y las garantías para la ciudadanía.

La revolución de herramientas basadas en la IA, como ChatGPT, en la ciberseguridad

El documento destaca la revolución que la aparición de ChatGPT, un modelo de inteligencia artificial conversacional que puede interactuar de forma similar al ser humano y que es capaz de generar código fuente, está generando en la ciberseguridad.

En este sentido, pone de relieve que esta herramienta puede favorecer el crecimiento de las amenazas de ciberseguridad, pues por ejemplo tiene la capacidad de generar piezas de software malicioso (malware) por parte de cibercriminales sin habilidades técnicas, de escribir correos electrónicos maliciosos, convincentes y gramaticalmente correctos para lanzar campañas de phishing o de generar código que cambia el cifrado criptográfico para sortear los mecanismos de seguridad tradicionales, entre otros. Y, por otra parte, también es una herramienta útil para la ciberseguridad para buscar y corregir vulnerabilidades cuando se desarrolla código seguro o para detectar malware mediante la ingeniería inversa de forma mucho más rápida que un operador humano.

Los sectores de la ciberseguridad y la inteligencia artificial en Catalunya

De acuerdo con el libro blanco, los sectores de la inteligencia artificial y la ciberseguridad tienen gran potencial de crecimiento en Catalunya gracias a un sistema de conocimiento consolidado con universidades y centros de investigación y tecnológicos, la capacidad de atraer talento y el liderazgo de iniciativas como las estrategias CATALONIA.AI y el Plan Nacional de Ciberseguridad. Asimismo, indica que se cuenta con un destacado tejido empresarial y asociativo en estos ámbitos, donde el 74% de las empresas del sector de la inteligencia artificial se dedican al desarrollo de software y el 89% de las empresas dedicadas a la ciberseguridad ofrecen productos y servicios destinados a la protección.