Sophos, empresa mundial de soluciones de seguridad innovadoras que derrotan a los ciberataques, publica hoy «Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad», para la que ha encuestado a 400 responsables de TI sobre su uso de la IA en ciberseguridad. La encuesta revela que, a pesar de que el 65% ha adoptado funciones de inteligencia artificial generativa (GenAI), al 89% de los directores de TI les preocupa que los fallos en las herramientas de ciberseguridad GenAI puedan poner en riesgo a su organización.

Además, según revela la nueva investigación de Sophos X-Ops, «Los ciberdelincuentes aún no se han subido al tren de la IA (todavía)», también publicada hoy, se ha producido un ligero pero notable cambio en la forma en que los ciberdelincuentes utilizan la IA. Tras investigar varios foros clandestinos, Sophos X-Ops ha descubierto que, aunque todavía hay escepticismo sobre la IA Generativa, algunos delincuentes la están utilizando para automatizar tareas rutinarias, como la elaboración de correos electrónicos masivos y el análisis de datos. Otros la están incorporando a toolkits de spam e ingeniería social.

«Como con muchas otras cosas en la vida, el mantra debería ser ‘confía, pero verifica’ en lo que respecta a las herramientas de IA generativa. En realidad, no hemos enseñado a las máquinas a pensar; simplemente les hemos proporcionado el contexto para acelerar el procesamiento de grandes cantidades de datos», explica Chester Wisniewski, director, CTO field global de Sophos. «El potencial que tienen estas herramientas para acelerar las cargas de trabajo en seguridad es asombroso, pero sigue siendo necesario el contexto y la comprensión de un supervisor humano para que este beneficio se haga realidad.»

Contando con alguna forma de IA integrada en la infraestructura de ciberseguridad del 98% de las empresas encuestadas, los responsables de TI expresan su preocupación por una posible dependencia excesiva de la IA, con el 87% de los encuestados afirmando que les preocupaba la consecuente falta de responsabilidad en materia de ciberseguridad.

GenAI y la reducción del burnout

Se observan diferentes prioridades a la hora de utilizar la GenAI en función del tamaño de la empresa. Mientras que las grandes organizaciones (aquellas con más de 1.000 empleados) dan prioridad a la mejora de la protección, los encuestados con entre 50 y 99 empleados califican la reducción del burnout como su principal beneficio deseado del uso de las herramientas de IA Generativa. Sin embargo, para complicar las cosas, en todos los tamaños de empresas, el 84% de los responsables encuestados dicen estar preocupados por la presión para reducir el número de profesionales de ciberseguridad debido a expectativas poco realistas sobre las capacidades de la IA para reemplazar a los operadores humanos.

Otras conclusiones clave del informe «Beyond the Hype»:

• Los costes de la IA Generativa son difíciles de cuantificar: El 75% de los directores de TI coinciden en que los costes de GenAI en productos de ciberseguridad son difíciles de cuantificar. 
• Las empresas cuentan con ahorrar gracias a la IA Generativa: Aunque el 80% de los encargados de TI creen que GenAI aumentará significativamente el coste de las herramientas de ciberseguridad, la mayoría de las organizaciones creen que la IA Generativa ofrece una vía para reducir el gasto total en ciberseguridad, ya que el 87% de los encuestados creen que los ahorros de GenAI compensarán los costes.