*Autor: Sam Curry, Vicepresidente y CISO de Zscaler

La adopción masiva de ChatGPT se ha producido a un ritmo sin precedentes en la historia de las recientes novedades técnicas. En apenas dos meses, esta aplicación de IA generativa (GenAI) de uso sencillo ha captado la friolera de 100 millones de usuarios. Un año después de su lanzamiento, hicimos una encuesta para saber si las herramientas de GenAI como ChatGPT han desencadenado una nueva revolución industrial. Con nuestro estudio «Todos los ojos puestos en la seguridad de GenAI», queríamos averiguar cómo están utilizando las organizaciones las herramientas GenAI, las implicaciones para la seguridad que esto supone y las formas en que las organizaciones podrían proteger mejor su propiedad intelectual y los datos de sus clientes a medida que su uso sigue evolucionando.

Casi la totalidad (95%) de los 900 directivos de IT encuestados afirmaron que sus organizaciones ya están utilizando herramientas de GenAI de algún modo. Sin embargo, un importante 89% también admitió que su organización considera que las herramientas de GenAI son un riesgo potencial para la seguridad, y casi la mitad (48%) estuvo de acuerdo en que la sombra que proyecta GenAI puede ser mayor que las oportunidades que podría ofrecer. Esto pone de manifiesto una preocupante brecha entre la teoría y la práctica, ya que la adopción temprana de GenAI parece un riesgo menos calculado de lo que nos gustaría creer. 

El 23% de las organizaciones que ya utilizan herramientas de GenAI no las supervisan en absoluto, por lo que el nivel de amenaza es alto. A la hora de implantar cualquier nueva tecnología, es esencial comprender los retos de seguridad únicos que plantea para que no opaquen todo su potencial.

La inteligencia artificial generativa como impulsora de una nueva fiebre

La divergencia entre oportunidad y riesgo de la GenAI me recuerda a las grandes fiebres del pasado, es decir, las del oro, el petróleo o la tierra, que transformaron nuestra sociedad y nuestra economía. La GenAI se encuentra claramente en esa lista de hechos históricos de gran impacto. Y, de hecho, las organizaciones deberían tener en cuenta las lecciones aprendidas de quienes triunfaron en el pasado, ya que en la carrera por adoptar la GenAI habrá ganadores (y perdedores) muy parecidos. Lo único que podemos afirmar con seguridad es que las organizaciones deben analizar detenidamente sus estrategias de implantación antes de comprometerse: lanzarse de cabeza a adoptar una nueva tecnología podría ser una receta para el desastre.

Si como se dice, los datos son el nuevo petróleo, la GenAI es la máquina que los consumirá. Cuando empezó la fiebre del petróleo, el petróleo no era nuevo. En realidad, fue el desarrollo del motor de combustión que consumía tanto petróleo lo que condujo a ese cambio social concreto. El equivalente actual del motor de combustión es la IA, que consume datos con tanta avidez como los motores consumían petróleo en el siglo pasado. En otras palabras, al igual que el motor impulsó un insaciable interés por más petróleo, convirtiéndolo en un activo estratégico, la IA impulsará un voraz interés por más datos, convirtiéndolos también en un activo estratégico. 

Del mismo modo que el motor de combustión transformó las empresas y se adueñó del control del petróleo que lo alimentaba, la IA tendrá el mismo efecto transformador. Pero para poder hacerlo, las organizaciones deben tomar las riendas de la seguridad de los datos que están a punto de volverse tan esenciales.

La privacidad de los datos como principal preocupación

Como primera medida en este sentido, todas las organizaciones deben darse cuenta de que ya son parte del ecosistema de los datos y la IA, gracias al libre flujo de información que existe en internet. También deben ser conscientes de la responsabilidad que tienen sobre los datos que actualmente alimentan ese ecosistema. Algunos países han empezado a regular el uso de los datos por parte de las organizaciones, estableciendo mecanismos de gobierno. No obstante, tanto las organizaciones como los usuarios particulares siguen teniendo un papel activo a la hora de evaluar cuidadosamente la privacidad de sus propios datos. Si, por ejemplo, en Internet se ofrece un servicio gratuito, el usuario tiene que ser consciente de que está pagando con sus datos y la información sobre su comportamiento.

Las organizaciones que recogen estos datos también tienen que utilizarlos con el máximo respeto. Eso significa tratarlos dentro de las fronteras territoriales y ser conscientes (y disciplinados) de que los recopilan únicamente con un fin específico. En este último punto, es crucial que las organizaciones presten atención al debate ético que rodea a los grandes avances tecnológicos como la GenAI. La creación de un grupo o consejo de asesores internos o externos ayuda a garantizar que las organizaciones se mantienen al día de cualquier novedad relevante. Además, al igual que con el uso de cualquier nueva tecnología, la GenAI debe ser probada. Preguntas como «¿Deberíamos hacer esto?» y «¿Cómo lo hacemos?» deben plantearse antes de que las organizaciones se pongan a trabajar con estas herramientas. 

La contrapartida de toda esta recogida de datos relacionados con la GenAI, evidentemente, es que no sólo son valiosos para la empresa, sino también para la comunidad de ciberdelincuentes. En este sentido, el equipo de seguridad debe desempeñar un papel central en el uso ético de los datos en los motores de la GenAI. Las organizaciones deben garantizar que conocen quién puede acceder a sus datos y en qué condiciones, y limitar su uso a ciertas aplicaciones. También deben ser conscientes de que el uso de datos para cualquier tipo de actividad de investigación conlleva el riesgo de filtración y utilización indebida de los datos. 

A medida que avanzamos en el campo de la innovación, debemos ser cuidadosos ante la posibilidad de que se produzcan errores, como ocurre con todos los poderes transformadores. Por eso es tan importante que las organizaciones actúen con la debida diligencia antes de precipitarse en esta nueva revolución del uso de los datos. El potencial que encierra es enorme, pero también lo son los peligros si se maneja de forma incorrecta.