Industrias clave como Tecnología y Banca lideran la adopción de políticas de Inteligencia Artificial Responsable
En el contexto actual, donde la Inteligencia Artificial (IA) se está adoptando cada vez más en diversas industrias y la presión regulatoria aumenta, las organizaciones están viendo la necesidad de implementar políticas de Inteligencia Artificial Responsable (RAI). El concepto de RAI implica diseñar, desarrollar e implementar sistemas de IA bajo un marco que garantice la mitigación de riesgos y evite impactos negativos tanto en los clientes como en la sociedad en general.
Reguladores, certificadores e investigadores están intensificando sus esfuerzos para generar leyes, normativas, estándares y buenas prácticas que rijan el uso responsable de la IA. En este sentido, grandes empresas que utilizan IA están tomando la delantera y promoviendo internamente políticas de RAI. Estas empresas están contratando equipos especializados en ética y datos, colaborando con centros de investigación y estableciendo códigos éticos para el uso de la IA. Industrias como Tecnología, Medios y Telecomunicaciones, Farmacia, Banca y Automoción presentan una mayor madurez en términos de implementación de políticas de RAI.
La demanda de seguros relacionados con la IA estará impulsada por la automatización de procesos end-to-end y por la necesidad de cumplir con regulaciones específicas sobre el uso de la IA. Sin embargo, la oferta de seguros específicos para riesgos asociados al uso de la IA es prácticamente inexistente en la actualidad. Solo algunos ejemplos de seguros para vehículos autónomos y procesos industriales automatizados end-to-end están disponibles.
Se prevé que la mayor demanda de seguros de IA provendrá de sectores como el vehículo autónomo, procesos industriales automatizados end-to-end y la protección de profesionales que utilicen la IA en sus prácticas, como médicos. Además, las aseguradoras deberán revisar sus productos actuales para tener en cuenta cómo sus clientes están utilizando la IA en sus organizaciones.
Para abordar los riesgos asociados con la IA y proteger a los clientes, a los individuos y a la sociedad en general, las aseguradoras deberán acompañar a sus clientes en la implementación responsable de la IA en sus organizaciones. Se prevé que una labor preventiva será esencial en este contexto.
Los proveedores de soluciones y servicios de despliegue de IA también están tomando en cuenta la necesidad de un uso responsable de la tecnología. Han pasado de controlar únicamente los riesgos operativos a considerar también los riesgos éticos asociados con la IA.
El mercado de «servicios RAI», que aborda la gestión de modelos de IA y sus riesgos de manera holística, está dominado por startups especializadas y relativamente jóvenes, con una edad promedio de dos años. Estas startups están desarrollando herramientas para automatizar la gobernanza, la evaluación, la mitigación y la monitorización de los modelos de IA y sus riesgos asociados. Además, empresas establecidas en el ámbito legal, de auditoría o evaluación de riesgos, como grandes consultoras, están posicionándose en este campo mediante alianzas e inversiones en estas startups.
Las empresas que ya utilizan IA están demandando servicios de RAI y asesoramiento para el despliegue responsable de la tecnología. Se espera que esta demanda crezca a medida que la adopción de la IA aumente y se tome mayor conciencia de sus riesgos.
