Cada año el Black Friday se convierte en uno de los grandes escaparates del comercio digital, pero también en una oportunidad aprovechada por los ciberdelincuentes. No cabe duda de que la evolución de la inteligencia artificial ha transformado de forma significativa la experiencia de compra y, en consecuencia, las técnicas usadas por los atacantes que ya no limitan sus acciones solo al envío de correos fraudulentos o crear páginas web falsas. Hoy ya pueden generar nuevas identidades, conversaciones, vídeos y recomendaciones aparentemente legítimas para influir en las compras de los consumidores.
Uno de los cambios más llamativos y que más patente será este Black Friday es la progresiva incorporación de los agentes de inteligencia artificial capaces de buscar productos, comparar e interactuar con los comercios e incluso comprar en nombre de los usuarios. Esta automatización plantea un serio debate sobre la seguridad, la privacidad y, sobre todo, el control de las operaciones. Y es que un agente de IA al que se delega la completa confianza puede convertirse en un nuevo punto de entrada para el fraude. ¿Y si interactúa con fuentes manipuladas, recomendaciones fraudulentas o servicios no verificados? Desde DLTCode, empresa especializada en ciberseguridad, formación y tecnología Deep Tech basada en IA y adherida al Grupo Armora, recomiendan adoptar una serie de medidas de seguridad en las compras asistidas por la inteligencia artificial.
- Control y limitaciones de los pagos: los agentes de IA no deben disponer de una autorización ilimitada para realizar compras. Por ello, es recomendable exigir antes de cerrar cualquier operación la confirmación humana.
- Poner límites a los permisos: evitar que los agentes de IA tengan acceso completo a datos bancarios, cuentas personales e información sensible. Es decir, sólo se han de conceder los permisos imprescindibles.
- Establecer límites económicos: de la misma forma que se ha de poner límites a los pagos y a los datos proporcionados, también es de gran importancia configurar importes máximos por operación o controlar presupuestos globales para evitar que la herramienta compre de forma indiscriminada.
- Verificación de fuentes: no solo porque la IA haga sus recomendaciones de productos o promociones el usuario debe fiarse. De la misma forma que en las compras digitales tradicionales se ha de contrastar la oferta y producto a través de los canales oficiales de cada comercio.
- Desconfiar de instrucciones externas: cabe señalar que los asistentes de IA pueden llegar a procesar mucha información y, en muchos casos, también de páginas web con contenidos no del todo fiables. Así pues, no se debe obedecer de inmediato y sin contraste de todas las instrucciones encontradas durante su búsqueda.
- Revisión de las operaciones: de la misma forma que se hace con la aplicación del banco, los usuarios deben comprobar el historial de la actividad generada por los agentes de IA, las compras que han realizado y todos los permisos que se mantengan activos.
“No se trata de renunciar a las herramientas de inteligencia artificial que tenemos a nuestro alcance, sino de no perder el control sobre nuestras decisiones económicas y datos personales dejándonos llevar por la comodidad tecnológica”, afirma Efrén Varón Gil, director de inteligencia de DLTCode.
Desinformación, datos personales y deepfakes durante el Black Friday
En este contexto se suma la proliferación de contenidos generados a través de la inteligencia artificial. Un vídeo de un influencer o famoso promocionando un producto o una grabación de voz de un falso asistente de atención al cliente. La evolución de los deepfakes ha obligado a replantearse los principios básicos de la ciberseguridad ya que la identidad visual o la voz de una persona ya no constituyen por si solas una prueba de autenticidad.
Lo mismo ocurre con la creciente exposición de los datos personales. Las búsquedas e intención de compra de los consumidores, los carritos abandonados las interacciones con los agentes de digitales ayudan a construir perfiles con más precisión de los consumidores. Y es que el riesgo ya no solo se limita al mero robo de datos sensibles o de una tarjeta bancaria, también ha comenzado a afectar no solo a la privacidad, sino a la capacidad para manipular, en último caso, las decisiones de compra.
“A todo ello se une también el aumento de la desinformación a través de las reseñas falsas, comparativas manipuladas que alteran la precepción de un producto o las recomendaciones artificiales. Al final el consumidor acaba por tomar decisiones de compra basadas en una reputación digital que ha sido fabricada con falsas campañas coordinadas” expone Efrén Varón Gil.
Con todo no es de extrañar que la ciberdelincuencia aumente de forma llamativa durante estos periodos conocidos de consumo. Los ciberdelincuentes han aprendido a combinar las herramientas que ya conocían con la IA generativa para personalizar los mensajes, suplantar marcas y adaptar sus estrategias a cada perfil de consumidor. “Tiene especial relevancia también la proliferación de falsas promociones vinculadas a los criptoactivos, unos supuestos descuentos que exigen conectar tu cartera digital y que esconden la apropiación indebida de estos activos”, añade Efrén Varón Gil, director de inteligencia de DLTCode.
Y es que ya no se trata tan solo de aprender las recomendaciones básicas de compras digitales como identificar enlaces sospechosos, sitios web fraudulentos o qué datos sensibles datos a la hora de comprar. Hoy en día, tecnología, manipulación y explotación de datos van de la mano. Es por eso que desde DLTCode este Black Friday recomiendan encarecidamente no sólo llevar a cabo los consejos ya conocidos, sino también cuestionar la autenticidad de las interacciones y recomendaciones que se reciben para no ser condicionados en las decisiones de compra a la vez que se toma control absoluto sobre la ciberseguridad en el uso de los agentes de inteligencia artificial.
