Por Antoinette Hodes, Global Solutions Architect & Evangelist en la Oficina del CTO de Check Point Software.

En el mundo en rápida evolución del Internet Industrial de las Cosas (IIoT), la integración de la toma de decisiones impulsada por la inteligencia artificial en los sistemas de tecnología operacional (OT) ha generado la impresión de un control más sólido y tiempos de respuesta más inteligentes y eficiencia predictiva. Sin embargo, esta percepción puede ser una peligrosa ilusión.

Los sistemas autónomos, cada vez más extendidos en infraestructuras críticas como redes eléctricas inteligentes, líneas de producción o plantas de tratamiento de agua, operan basándose en sensores interconectados y algoritmos de IA que toman decisiones automatizadas en tiempo real. Y a medida que la automatización se intensifica, también lo hace la complejidad, dificultando cada vez más la comprensión o la auditoría de las decisiones que toman estas máquinas.

Cada capa adicional de automatización multiplica los componentes interconectados —sensores, algoritmos, redes de comunicación y sistemas de control— añadiendo nuevas variables, dependencias y puntos potenciales de fallo. Además, los modelos de IA, que funcionan como auténticas “cajas negras”, toman decisiones en base a patrones de datos que no siempre son comprensibles para los propios operadores. Su capacidad de adaptación constante hace que auditar o prever su comportamiento sea cada vez más complejo.

La expansión de la Industria 4.0 ha difuminado las tradicionales fronteras entre IT y OT, dando paso a entornos industriales hiperconectados. Lo que antes eran sistemas OT aislados hoy se integran con sensores IoT, conectividad en la nube y tecnologías de red avanzadas. Esta interconexión abre nuevas oportunidades de eficiencia, pero también introduce riesgos significativos. Los atacantes ya no necesitan comprometer la infraestructura física; basta con manipular los flujos de datos o confundir la lógica de decisión de la IA para provocar efectos disruptivos.

El lado oscuro de la autonomía

La autonomía permite avances notables en mantenimiento predictivo, optimización de procesos y respuesta a anomalías. En el sector manufacturero, los modelos de IA predicen fallos en maquinaria mediante análisis de vibraciones e imágenes térmicas. En el sector energético, monitorizan parámetros como voltaje y frecuencia para anticipar fallos en la red. Y en el tratamiento de aguas, ajustan en tiempo real las válvulas y dosis químicas según la información de los sensores. No obstante, esta misma autonomía introduce nuevas vulnerabilidades. Manipular o engañar a estos sistemas es cada vez más viable.

Un ataque de confusión puede introducir datos falsos en los sensores de una red energética y provocar errores en la distribución de energía. Alterar sutilmente los parámetros de control en una línea de producción podría degradar la calidad del producto sin que el sistema sea capaz de detectarlo. Y en los casos más graves, una decisión errónea tomada por un sistema autónomo interconectado podría desencadenar fallos en cascada, comprometiendo infraestructuras críticas.

Hoy, los atacantes tampoco necesitan “romper” un sistema: les basta con envenenar su lógica de decisión o introducir pequeñas alteraciones que generen resultados perjudiciales. Esta capacidad de manipular los sistemas sin ser detectados hace que el riesgo de la autonomía sea mayor de lo que aparenta.

Ante este escenario, es esencial que los responsables de ciberseguridad industrial adopten un enfoque proactivo. Exigir el uso de modelos de inteligencia artificial explicables (XAI), que permitan entender y auditar las decisiones críticas, resulta indispensable. Además, es necesario invertir en equipos especializados que simulen posibles ataques tanto cibernéticos como físicos, para identificar vulnerabilidades antes de que sean explotadas.

La monitorización continua es clave para detectar patrones anómalos o desviaciones en el comportamiento de los sistemas, lo que permite anticiparse a incidentes de seguridad. Y por encima de todo, los procesos más sensibles deben seguir contando con intervención humana, para garantizar que las decisiones que afectan a la seguridad de personas e infraestructuras no queden exclusivamente en manos de algoritmos.

Los CISO deben tratar la autonomía como un riesgo de terceros: auditarla regularmente, ponerla a prueba de forma rigurosa y garantizar siempre un mecanismo de intervención humana. La ilusión de control es peligrosa, no porque la autonomía falle, sino porque a veces falla de manera silenciosa y catastrófica.