Por Miguel Ángel Martos, Netskope Iberia
Por qué proteger la IA exige revisar no solo los prompts, sino también las respuestas y la información que pueden revelar más allá de lo solicitado
Una respuesta de IA puede revelar datos confidenciales que el usuario no ha solicitado y a los que no debería tener acceso. Ese riesgo obliga a ampliar una estrategia de seguridad centrada durante años en evitar la introducción de información sensible en servicios basados en grandes modelos de lenguaje (LLM). A medida que estas herramientas se integran en las organizaciones y adquieren capacidad para actuar de forma autónoma, proteger lo que entra ya no basta: también hay que controlar lo que sale.
Hasta ahora, el foco ha estado en las infracciones de la política de datos «aguas arriba» (upstream): las que se producen cuando un usuario o un sistema de IA introduce en una plataforma información que no debería compartir. Esa vigilancia debe extenderse a las infracciones «aguas abajo» (downstream), que ocurren cuando una respuesta de IA expone información confidencial a quien no está autorizado a recibirla. Esto puede suceder incluso cuando el prompt es legítimo.
Las cifras que se recogen a continuación proceden de tres informes de Netskope publicados en 2026: Cloud and Threat Report, del 5 de enero; Netskope Threat Labs Report: Europe, del 25 de mayo; y Netskope AI Report, del 27 de julio. Estos estudios analizan el uso de la IA y los riesgos de seguridad asociados, tanto a escala global como en Europa.
La adopción crece con rapidez. En el último año, el porcentaje de usuarios empresariales que utiliza aplicaciones de IA cada semana ha pasado del 34 % al 59 %. El volumen medio también se ha multiplicado por algo más de tres: de 1.498 a 4.731 prompts por organización y semana. En el cuartil superior, al menos el 77 % de los empleados usa IA semanalmente y las organizaciones generan un mínimo de 19.292 prompts en ese periodo. Estos indicadores semanales describen la escala actual del uso. Como antecedente independiente, otro informe de Netskope recoge un aumento de 3.000 a 18.000 prompts mensuales por organización enviados a aplicaciones de IA generativa SaaS. Esta serie mensual utiliza un ámbito de aplicaciones distinto y no permite una comparación directa con los datos semanales.
Este crecimiento refuerza la necesidad de proteger la información que los empleados comparten con estas herramientas. Cuando los datos confidenciales entran en un servicio de IA, la organización puede perder rápidamente el control sobre su destino y su uso. De ahí las salvaguardas para impedir que se incluya información sensible en los prompts. La magnitud del problema es considerable: la organización media registra 223 infracciones de datos relacionadas con IA generativa al mes, frente a 2.100 en el cuartil superior. El número de incidentes se ha duplicado en un año, y los datos regulados —personales, financieros o sanitarios, entre otros— constituyen la principal categoría de infracciones, con el 54 %.
Pero limitar la información que se introduce solo protege un lado de la interacción. Las infracciones aguas abajo, originadas en las respuestas de la IA, también están aumentando. En esta serie semanal, la media por organización ha pasado de 12 a 31 en el último año, más del doble. En el 25 % de las organizaciones con mayor incidencia, el salto es aún más acusado: de 72 a 206 infracciones semanales. Estas cifras se refieren específicamente a infracciones aguas abajo y no deben compararse directamente con el indicador mensual de infracciones relacionadas con IA generativa citado anteriormente.
Una petición legítima puede, por tanto, generar una respuesta que exponga información a un destinatario no autorizado. Cuando la IA actúa además en nombre del usuario, el riesgo no termina en esa respuesta: puede dar lugar a una acción que la política de datos tampoco debería permitir.
La conexión de la IA con datos y herramientas corporativas amplía el contexto del riesgo, pero conviene distinguir el acceso a información de la capacidad de actuar. La generación aumentada por recuperación (RAG) incorpora información recuperada a la generación de respuestas; el protocolo de contexto de modelo (MCP) facilita la conexión con fuentes y herramientas; y la IA agéntica puede actuar en nombre del usuario, en determinados usos sin supervisión humana. Estas tecnologías pueden permitir el acceso a conjuntos de datos sensibles. Su adopción está creciendo: en solo diez semanas, el número de usuarios que acceden a servidores MCP remotos aumentó un 250 % y las transacciones MCP, un 375 %. En paralelo, el porcentaje de organizaciones que adopta herramientas de programación con IA ha pasado del 42 % al 84 %. En este contexto, se espera que la proporción de infracciones aguas abajo notificadas u observadas siga aumentando hasta finales de 2026.
Los prompts seguros pueden generar resultados inseguros
Imaginemos que un empleado pide a un asistente de IA un resumen de varias fuentes conectadas. La solicitud no tiene nada de sospechoso y el empleado está autorizado a utilizar la herramienta. Sin embargo, al recuperar datos de otras áreas de la empresa, el asistente puede incluir información financiera sensible, propiedad intelectual o comunicaciones confidenciales que ese empleado no debería consultar. No hace falta que nadie eluda deliberadamente los controles: el problema aparece cuando el sistema puede acceder a esos datos y los incorpora a la respuesta sin respetar los permisos del destinatario.
En el ejemplo anterior, la cuestión decisiva es si la información recuperada puede mostrarse al destinatario. RAG apoya la generación mediante la recuperación de información y MCP facilita la conexión con fuentes y herramientas; ambas capacidades amplían el alcance de las consultas y pueden aumentar el volumen de información que aparece en las respuestas. Pueden mejorar los resultados, pero también ampliar la exposición de datos si la información devuelta no respeta los permisos del destinatario.
Antes de interpretar la distribución de alertas y los datos europeos que se presentan a continuación, conviene distinguir sus ámbitos. Los porcentajes de datos regulados de estos estudios no describen una misma población de infracciones: el 54 % corresponde a las infracciones relacionadas con IA generativa; el 35 %, a las infracciones aguas arriba dentro de la distribución de alertas; y el 59 % en Europa, a las infracciones entre aplicaciones de IA y aplicaciones personales en la nube. Cada porcentaje debe interpretarse dentro de su propio ámbito. Por sí solos, estos valores no permiten comparar regiones ni establecer una evolución temporal.
Las infracciones aguas abajo ya constituyen la segunda categoría de alertas relacionadas con la IA, aunque las aguas arriba siguen siendo mayoritarias. Por cada 10.000 alertas, 924 corresponden a las primeras y 8.752 a las segundas, cerca del 90 %. Dentro de las infracciones aguas arriba, los datos regulados y el código fuente representan cada uno el 35 % de los incidentes; la propiedad intelectual, el 20 %; y las contraseñas y claves, el 10 %. Las otras categorías citadas registran, por cada 10.000 alertas, 154 de filtrado de contenido, 129 de intentos de inyección de prompt y jailbreak, y 28 de peticiones deliberadas de información sensible. A esta distribución de alertas se suma un indicador distinto, relativo al uso de herramientas: el 30 % de los usuarios empresariales de IA utiliza exclusivamente aplicaciones personales y otro 14 % combina aplicaciones personales y gestionadas. Este uso al margen de las aplicaciones gestionadas por la organización se conoce como shadow AI.
Con más datos y herramientas conectados, ignorar la respuesta resulta cada vez menos defendible. Revisar solo el prompt es como aprobar una orden de pago sin comprobar el destino del dinero: que la instrucción sea legítima no garantiza que el resultado sea seguro.
La exposición de datos es, además, solo una parte del problema. Si un agente de IA puede interactuar con otros sistemas, una respuesta puede convertirse en una instrucción para enviar información, modificar un registro o ejecutar código sin que nadie revise cada paso. Aunque el código malicioso devuelto por la IA sigue siendo relativamente poco habitual, su impacto potencial es considerable cuando los agentes autónomos pueden ejecutarlo o incorporarlo a bases de código más amplias.
Lo que muestran los datos en Europa
El panorama europeo aporta contexto sobre la adopción y la exposición de datos, pero no mide específicamente las infracciones aguas abajo. Su utilidad aquí es mostrar el entorno en el que deben aplicarse los controles de entradas, respuestas y acciones de la IA.
La presencia de la IA en las organizaciones europeas alcanza alrededor del 99 %, mientras que el indicador de adopción individual ha pasado del 35 % al 65 % en un año. El informe ofrece, por separado, otras dos medidas de uso: el 64 % de los usuarios interactúa con aplicaciones de IA y el 95 % utiliza aplicaciones que incorporan estas funciones de forma indirecta. Estos indicadores describen dimensiones distintas y no forman una única serie de adopción. El dato sobre entrenamiento requiere otra distinción: el 89 % emplea aplicaciones que usan datos de los usuarios para entrenar, pero utilizar esas aplicaciones no implica necesariamente haber decidido aportar datos al entrenamiento.
En Europa, el desplazamiento hacia herramientas gestionadas convive con una exposición persistente de datos regulados. El uso de IA personal ha caído del 79 % al 43 %, mientras que el de IA gestionada por la organización ha subido del 28 % al 72 %. Ambos usos pueden coexistir y no forman categorías excluyentes de un reparto que sume el 100 %. Como contexto separado, a escala global el uso de aplicaciones personales de IA también ha descendido, del 78 % al 47 %. En cuanto a las infracciones europeas entre aplicaciones de IA y aplicaciones personales en la nube, los datos regulados representan el 59 % del total; el código fuente, el 15 %; la propiedad intelectual, el 13 %; y las contraseñas y claves de API, el 12 %. En las aplicaciones personales, el peso de los datos regulados alcanza el 63 %. Los controles en tiempo real se aplican con mayor frecuencia a Google Drive (32 %), ChatGPT (27 %) y Gmail (22 %) entre las aplicaciones personales. El alcance del riesgo supera, por tanto, a la IA: el 60 % de los incidentes de amenaza interna implica instancias de aplicaciones personales en la nube.
La seguridad debe seguir a la IA
Los profesionales de la seguridad quieren facilitar la adopción de tecnologías que mejoran la productividad y el trabajo de sus compañeros. La respuesta al riesgo aguas abajo no consiste en restringir la IA hasta hacerla ineficaz, sino en acompañar toda la interacción con controles adecuados.
Para ello, hay que evaluar el contexto antes de entregar la respuesta o ejecutar la acción resultante. Antes de devolver información sensible, los controles deben comprobar si el destinatario está autorizado a recibirla. Antes de que un agente actúe, deben determinar si la acción está permitida.
Las comprobaciones en el momento de responder o actuar necesitan una base previa: reglas claras sobre la información a la que pueden acceder los distintos usuarios y agentes de IA, y sobre lo que pueden compartir. Esas reglas deben considerar quién realiza la solicitud y la sensibilidad de los datos. El acceso técnico del sistema no equivale a una autorización para todos sus usuarios: que pueda consultar una información no significa que todas las personas que lo utilizan deban poder verla.
La visibilidad también debe cubrir la interacción completa. Los equipos de seguridad necesitan conocer la pregunta, la información consultada y el destino de la respuesta o de la acción resultante. Sin ese contexto, cada paso puede parecer legítimo por separado, aunque el resultado final incumpla la política.
Controlar los permisos sobre los datos no basta cuando una respuesta puede desencadenar acciones. Los controles pueden impedir que un usuario no autorizado reciba información sensible y detener a un agente antes de que actúe en contra de la política. La validación adicional cobra especial importancia cuando el código generado por IA va a utilizarse o ejecutarse: en ese caso, hay que comprobar tanto la respuesta como lo que los sistemas harán con ella.
Para los CISO, la decisión es dónde deben intervenir los controles en una interacción de principio a fin. La comprobación de entrada determina si la información puede compartirse con el sistema de IA; la de salida, si el destinatario está autorizado a acceder a los datos de la respuesta; y la de ejecución, si las acciones del agente están permitidas. Los controles deben intervenir cuando la información no pueda compartirse, el destinatario no esté autorizado o la acción no esté permitida, así como cuando cualquiera de esos resultados genere un riesgo.
Proteger ambos lados de la interacción
Proteger las salidas no resta importancia a la seguridad de las entradas. Sigue siendo esencial evitar que la información sensible se exponga a sistemas de IA sin una razón justificada. Pero la IA ya no es solo una herramienta de conversación: también puede recuperar información y actuar en toda la empresa en nombre de los empleados. La seguridad debe evolucionar al mismo ritmo.
La seguridad debe conectar la solicitud con los datos que consulta la IA, las personas autorizadas a recibir los resultados y las acciones que puede realizar con ellos. Esa continuidad es lo que hace del prompt un punto de partida, no un límite de protección. Una solicitud legítima no basta para garantizar un resultado seguro: tanto la respuesta como la acción resultante deben estar autorizadas.
