Inteligencia Artificial silenciosa: una amenaza creciente para el patrimonio de las empresas
Uno de los riesgos emergentes más relevantes en materia de seguros es la posibilidad de que la inteligencia artificial generativa quede implícitamente excluida de ciertas coberturas.
La pregunta ya no es si la Inteligencia Artificial generativa puede generar amenazas, sino cómo prepararse para gestionarlas.
Archivo MDZDesde su irrupción masiva en 2022, la inteligencia artificial generativa se ha convertido en una de las tecnologías más adoptadas y transformadoras del ecosistema empresarial. Organizaciones de todos los sectores la han integrado para automatizar procesos, mejorar la atención al cliente y acelerar la toma de decisiones. Su crecimiento acelerado también trajo una preocupación por su impacto en la ciberseguridad.
A diferencia de otras formas de inteligencia artificial
La IA generativa no se limita a analizar o predecir. Su función es crear, desde textos, imágenes, códigos, hasta audios y videos. Esa capacidad de producción la vuelve especialmente atractiva, pero su uso inadecuado puede amplificar riesgos ya existentes, tales como ciberataques, la privacidad de los datos, la propiedad intelectual (PI) y la difusión de desinformación.
Se han registrado fraudes financieros millonarios mediante el uso de deepfakes hiperrealistas, filtraciones de datos causadas por el uso imprudente de prompts, y casos de contenido generado que infringe derechos de propiedad intelectual o propaga información errónea.
El problema no es solo técnico
La rapidez con la que las organizaciones han adoptado estas herramientas no siempre va acompañada de una evaluación rigurosa de sus implicancias legales, regulatorias y de cobertura de seguros. En muchos casos, los modelos de IA generativa se entrenan con grandes volúmenes de información sin validación de origen ni consentimiento claro, lo que genera dudas legítimas en materia de privacidad, competencia desleal y protección de datos.
Uno de los riesgos emergentes más relevantes en materia de seguros es la posibilidad de que la inteligencia artificial generativa quede implícitamente excluida de ciertas coberturas, en lo que algunos especialistas ya denominan “IA silenciosa”. Así como en su momento el “ciber silencioso” dejó a muchas organizaciones sin protección frente a incidentes tecnológicos por ambigüedades contractuales, hoy existe una preocupación creciente respecto de si los eventos vinculados al uso de IA generativa están realmente contemplados en las pólizas vigentes.
En este contexto, las organizaciones deben entender qué tipo de inteligencia artificial se está utilizando, con qué propósito y bajo qué condiciones. Para mitigar los riesgos vinculados al uso de inteligencia artificial generativa, las organizaciones deben adoptar un enfoque integral que contemple tanto la dimensión tecnológica como los procesos internos y el factor humano. Solo abordando estos tres frentes de manera coordinada es posible avanzar hacia una adopción segura, ética y sostenible de esta tecnología.
Según Marsh, corredor de seguros y asesor de riesgos líder en el mundo, hay tres acciones clave que las organizaciones pueden implementar hoy para mitigar los riesgos asociados a la IA generativa. La primera es comprender las diferencias entre esta tecnología y otras formas de inteligencia artificial, para ajustar las estrategias de uso y control. La segunda es desarrollar marcos de gobernanza sólidos y transversales que involucren a todas las áreas relevantes. Y la tercera, evaluar de forma continua el impacto de los cambios tecnológicos, regulatorios y de seguros, en un entorno que evoluciona rápidamente.
La pregunta ya no es si la IA generativa puede generar amenazas, sino cómo prepararse para gestionarlas. Las organizaciones que logren equilibrar innovación con control, y adopción con responsabilidad, estarán mejor posicionadas para capitalizar los beneficios de esta tecnología sin quedar expuestas a sus efectos colaterales.
* Christian Rada, líder de Finpro y Cyber para Argentina y Uruguay de Marsh.