La Inteligencia Artificial no es el problema, el desafío sigue siendo el factor humano

Una encuesta global de Isaca publicada este año encontró que el 90% de los profesionales de tecnología reconoce que sus empleados ya usan inteligencia artificial en el trabajo, pero menos de la mitad de las organizaciones tiene políticas claras sobre cómo hacerlo. Esa brecha nos dice que el problema no está en los algoritmos sino en la cultura de las organizaciones que los adoptan.

El patrón que vemos en América Latina es casi siempre el mismo. Los equipos empiezan con cautela, evitan cargar información sensible, respetan los límites que fija el área de tecnología. Pero cuando aparecen los primeros resultados concretos, la confianza crece y los límites se corren de manera casi imperceptible. Lo que comenzó como un uso controlado se expande a toda la organización en cuestión de meses, muchas veces sin que nadie tenga visibilidad completa sobre qué datos están circulando ni hacia dónde van. Quienes trabajamos en tecnología sabemos que esto es lo mismo que ocurre desde hace años con otros temas de IT: a pesar de las inversiones en herramientas, procesos y capacitación, una proporción importante de los incidentes se origina por el desconocimiento de las personas.

El 90% de los profesionales de tecnología reconoce que sus empleados ya usan inteligencia artificial en el trabajo.

Archivo.

El problema no está en los algoritmos

La respuesta habitual frente a ese diagnóstico suele caer en una de dos trampas. La primera es restringir el acceso a las herramientas para minimizar la exposición, lo que termina frenando innovación sin eliminar el riesgo, porque los equipos encuentran la manera de seguir usando lo que ya les funciona. La segunda es habilitar todo sin controles, asumiendo que la velocidad de adopción justifica posponer la gobernanza. Ninguna de las dos posiciones resuelve el problema de fondo. Para agilizar esta evolución, la mentalidad que hace falta se resume en el siguiente lema: “velocidad de startup, solidez de empresa grande”.

En la empresa, por ejemplo, decidimos avanzar hacia un modelo de responsabilidad compartida con el usuario de manera explícita. El foco está puesto en generar conciencia a través de la gobernanza. Lo más fácil sería restringir todo, pero el camino elegido es informar, capacitar y comunicar las consecuencias del mal uso. El área de tecnología puede definir políticas, establecer permisos y limitar determinadas conexiones, pero esas medidas no tienen efecto real si las personas que usan las herramientas cada día no comprenden por qué existen ni qué consecuencias puede tener una exposición indebida de información de clientes, empleados o de la propia organización.

En la empresa, por ejemplo, decidimos avanzar hacia un modelo de responsabilidad compartida con el usuario de manera explícita.

Archivo.

El área de tecnología puede definir políticas y permisos

Ahora bien: con la IA el riesgo no pasa solo por exponer datos o generar resultados incorrectos. Otro factor a considerar es el de los costos, ya que el consumo de tokens puede crecer rápidamente si no se gestiona de manera eficiente. En este sentido, las áreas de IT deben compartir mejores prácticas para optimizar el uso de los modelos, alcanzando los mismos objetivos con un consumo más eficiente. La discusión sobre si adoptar o no IA ya está resuelta en la práctica. En América Latina, como en el resto del mundo, su uso avanza con o sin política corporativa, y las organizaciones que intentan frenarla desde arriba generalmente llegan tarde. Por eso es clave construir una cultura donde cada persona entienda el valor de los datos que maneja. La alternativa es repetir los mismos errores que cometimos con la ciberseguridad y otros temas de IT, y aprender, una vez más, cuando el daño ya esté hecho.

* Federico Guidoni, IT Director en ADITI Consulting