La inteligencia artificial que comprometió infraestructura real y el verdadero desafío que plantea
La inteligencia artificial todavía no se rebeló, pero un incidente con OpenAI expuso los riesgos de sus crecientes capacidades y las fallas de los controles actuales.
El país avanzó en materia de ciberseguridad tradicional, pero todavía necesita desarrollar capacidades específicas para evaluar los riesgos asociados a la inteligencia artificial avanzada.
Archivo.Hace unos días trascendió que, durante una prueba interna, un modelo de OpenAI terminó comprometiendo infraestructura de Hugging Face. La noticia se dividió rápidamente entre quienes vieron una demostración de que la inteligencia artificial ya no puede controlarse y quienes la descartaron como una maniobra de marketing. Ninguna de las dos interpretaciones alcanza para explicar lo ocurrido.
Qué pasó durante la prueba
OpenAI estaba evaluando las capacidades ofensivas de hacking de sus modelos más nuevos. Para medir hasta dónde podían llegar, los investigadores retiraron deliberadamente las restricciones que normalmente impiden ejecutar tareas cibernéticas riesgosas. El ejercicio se realizó en un entorno que la compañía consideraba aislado, aunque contaba con un acceso limitado a internet para instalar paquetes de software. El desafío, llamado ExploitGym, buscaba poner a prueba las capacidades de los modelos en escenarios de seguridad informática. El sistema encontró una vulnerabilidad de día cero, es decir, una falla que todavía no había sido descubierta públicamente. A partir de allí escaló privilegios, se desplazó por la red y alcanzó un nodo con salida real a internet.
Luego infirió que Hugging Face, una plataforma utilizada para compartir modelos de inteligencia artificial, podía tener las soluciones del desafío. El modelo accedió a esa infraestructura y, mediante una segunda vulnerabilidad de día cero, consiguió ejecución remota de código en servidores de producción. Hugging Face detectó el incidente y comenzó a contenerlo antes de que OpenAI supiera que sus modelos estaban involucrados. Posteriormente, ambos equipos colaboraron para investigar lo ocurrido.
No fue una IA que decidió rebelarse
El episodio no encaja técnicamente con lo que en seguridad de IA se denomina pérdida de control. Ese concepto implica que un sistema persiga objetivos propios, se resista a ser apagado, engañe a sus supervisores o continúe actuando fuera de las instrucciones recibidas. Nada de eso ocurrió. El modelo estaba realizando una tarea específica y sus restricciones habían sido retiradas deliberadamente por los investigadores. Al encontrar obstáculos para completar el desafío, buscó alternativas y terminó saliendo del perímetro previsto.
Tampoco dejó puertas traseras, se replicó en otros sistemas ni permaneció activo una vez finalizada la prueba. Por eso, hablar de una IA que “se escapó” resulta exagerado. Pero tampoco sería correcto minimizar el episodio. El modelo demostró una capacidad técnica concreta: pudo descubrir y explotar dos vulnerabilidades de día cero en sistemas diferentes y encadenar múltiples acciones para alcanzar un objetivo. Lo hizo sin disponer del código fuente de esos sistemas y sin que un humano le indicara específicamente qué camino seguir.
El verdadero problema es la velocidad
La cuestión más importante no es si el episodio fue una demostración de ciencia ficción o una estrategia de prensa. El verdadero desafío está en la velocidad con la que aumentan las capacidades de estos sistemas y en la capacidad de empresas y gobiernos para acompañar ese crecimiento con mecanismos de seguridad. El propio incidente muestra una primera vulnerabilidad: el diseño del experimento. Los investigadores creían estar trabajando en un entorno controlado, pero dejaron una vía que permitió al modelo alcanzar infraestructura real. Si un laboratorio especializado puede subestimar las posibilidades de su propio sistema, el riesgo aumenta cuando empresas, universidades o gobiernos utilizan modelos similares sin contar con la misma experiencia. El problema también se vuelve más complejo con los modelos de pesos abiertos, que pueden descargarse y ejecutarse sin depender de los servidores de la empresa que los desarrolló. En un sistema alojado en la nube existen mecanismos para limitar accesos, monitorear actividades o desconectarlo. Una vez que un modelo está disponible públicamente, esas herramientas pierden eficacia. Si capacidades ofensivas de este nivel llegan a modelos abiertos, el control ya no dependerá exclusivamente de la voluntad de las compañías que los desarrollaron.
Un desafío que también alcanza a Argentina
A nivel internacional hubo avances. La Declaración de Bletchley de 2023 y sus posteriores encuentros en Seúl y París establecieron la necesidad de evaluar las capacidades peligrosas de los modelos antes de su lanzamiento y promover la cooperación entre países. Sin embargo, esos compromisos siguen siendo mayormente voluntarios. Una alternativa sería establecer protocolos obligatorios de reporte de incidentes, similares a los existentes para accidentes aéreos o determinados eventos industriales. Un episodio de estas características debería generar la obligación de informar a un organismo independiente dentro de un plazo establecido.
Argentina también enfrenta este desafío
El país avanzó en materia de ciberseguridad tradicional, pero todavía necesita desarrollar capacidades específicas para evaluar los riesgos asociados a la inteligencia artificial avanzada. Sería necesario contar con una función técnica especializada que pueda participar en redes internacionales de seguridad de IA, acceder mediante acuerdos de confianza a laboratorios de frontera y establecer protocolos mínimos de reporte para empresas que utilicen estos sistemas en sectores sensibles como banca, salud o infraestructura.
El episodio de Hugging Face deja una conclusión más importante que cualquier titular alarmista: la IA todavía no se rebeló contra sus creadores, pero sus capacidades están avanzando con una velocidad que obliga a revisar cuánto sabemos realmente sobre los límites de los sistemas que estamos construyendo.
* Eduardo Laens, CEO de Varegos y docente universitario especializado en IA y autor del libro Humanware (declarado de interés para la Comunicación Social por la Legislatura de la Ciudad de Buenos Aires)