Poco después del lanzamiento de los modelos de IA DeepSeek y Qwen, Check Point Research, la división de Inteligencia de Amenazas Check Point® Software Technologies Ltd., empresa global en soluciones de ciberseguridad, ha descubierto una tendencia: los ciberdelincuentes están pasando de ChatGPT a estas nuevas plataformas para desarrollar contenido malicioso.
Los investigadores han comprobado como los atacantes están divulgando información sobre cómo manipular estos modelos y mostrar contenidos sin censura utilizando jailbreaking, lo que en última instancia les permite utilizar la IA para crear herramientas maliciosas. Además, existen guías detalladas sobre las distintas formas de jailbreaking, cómo eludir las protecciones antifraude y cómo desarrollar malware propiamente dicho.
Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos maliciosos con restricciones mínimas
Tanto Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos fraudulentos con restricciones mínimas. Aunque ChatGPT ha invertido sustancialmente en medidas antiabuso en los dos últimos años, estos modelos más recientes parecen ofrecer poca resistencia al uso indebido, lo que atrae el interés de atacantes de distintos niveles, especialmente los poco cualificados, es decir, individuos que explotan scripts o herramientas existentes sin un conocimiento profundo de la tecnología subyacente.
Es fundamental destacar que ya existen versiones no censuradas de ChatGPT en varios repositorios de Internet. A medida que estos nuevos modelos de IA ganen popularidad, es previsible que aparezcan versiones equivalentes de DeepSeek y Qwen, lo que aumentará aún más los riesgos.
Los investigadores de Check Point Research han encontrado algunos ejemplos alarmantes de cómo se utilizan estos motores de IA con fines maliciosos y cómo se comparten en la web para que otros los utilicen. Los atacantes han creado infostealers utilizando Qwen, con el objetivo de capturar información confidencial de usuarios desprevenidos.
Sugerencias para el Jailbreaking
Jailbreaking se refiere a los métodos que permiten a los usuarios manipular los modelos de IA para generar contenidos sin censura ni restricciones. Esta táctica se ha convertido en una de las preferidas de los ciberdelincuentes, ya que les permite aprovechar las capacidades de la IA con fines maliciosos.
Los atacantes comparten instrucciones de jailbreaking para DeepSeek que pueden manipular las respuestas del modelo, incluyendo métodos como el enfoque “Haz ahora cualquier cosa” y explotando técnicas como el método “Supervivientes de accidentes aéreos”.
Eludir las protecciones bancarias
Asimismo, desde Check Point Research han detectado múltiples discusiones y técnicas compartidas sobre el uso de DeepSeek para eludir las protecciones antifraude de los sistemas bancarios, lo que indica el potencial de importantes robos financieros. Por otro lado, los ciberdelincuentes están usando los tres modelos de IA -ChatGPT, Qwan y DeepSeek juntos- para solucionar problemas y optimizar scripts para la distribución masiva de spam, mejorando la eficacia de sus actividades maliciosas.
“El auge de modelos como Qwen y DeepSeek marca una tendencia preocupante en el panorama de las ciberamenazas, donde las herramientas sofisticadas se explotan cada vez más con fines maliciosos”, ha señalado Eusebio Nieva, director técnico de Check Point Software para España y Portugal. “A medida que los atacantes utilizan técnicas avanzadas como el jailbreaking para eludir las medidas de protección y desarrollar herramientas de robo de información, fraude financiero y distribución de spam, la urgencia de que las empresas implementen defensas proactivas contra estas amenazas en evolución garantiza defensas sólidas contra el posible uso indebido de las tecnologías de IA”, concluye.
