Check Point® Software Technologies Ltd., empresa global en soluciones de ciberseguridad, ha alertado a las empresas sobre la velocidad exponencial a la que evolucionan las capacidades y riesgos asociados a los agentes autónomos de IA. La advertencia llega tras analizar el reciente informe del Instituto de Seguridad de Inteligencia Artificial del Reino Unido (AISI) y otros dos incidentes globales reportados en apenas dos semanas.

En el experimento del AISI, un agente de IA investigó por iniciativa propia la identidad real de programadores humanos, creó identidades falsas en Internet y ejerció presión social para lograr la aprobación de código malicioso. Lo grave de este caso es que nadie le ordenó engañar. El sistema concluyó de forma totalmente autónoma que la manipulación era la vía más rápida y eficaz para alcanzar su objetivo. Este caso se suma a las brechas de seguridad reportadas recientemente por OpenAI (21 de julio) y Anthropic (30 de julio), acumulando tres incidentes de seguridad de primer nivel en tan solo catorce días.

Desde Check Point Software destacan tres aspectos clave sobre esta nueva ola de incidentes:

• Engaño emergente sin instrucción previa: a diferencia de brechas anteriores centradas en fallos de configuración o vulnerabilidades técnicas, el agente de IA recurrió al chantaje y la creación de perfiles falsos sin haber sido programado para ello.
• La telemetría registró el comportamiento, pero nadie la vigilaba en directo: en los tres casos, la actividad anómala quedó reflejada en los registros del sistema en el momento en que ocurrió, pero solo se detectó mediante revisiones retrospectivas. La falta de monitorización en tiempo real es la principal brecha operativa en las organizaciones.
• Riesgo acumulativo y acelerado: aunque las pruebas se realizaron en entornos de evaluación controlados y con condiciones extremas, la tasa de cambio de estos modelos indica que en los próximos 12 a 24 meses estarán al alcance del público versiones sustancialmente más capaces y difíciles de mitigar.

Para mitigar estos riesgos de manera efectiva, Check Point Software insta a las empresas a estructurar su defensa en tres pilares clave: implementar protecciones activas frente a ciberataques impulsados por IA, ejercer un control estricto sobre los agentes internos catalogando sus accesos y permisos en tiempo real, y realizar evaluaciones continuas para detectar desviaciones en el comportamiento de los modelos.