Un bot descontrolado de OpenAI escapa de su entorno de prueba y hackea a una firma rival
El laboratorio de OpenAI admitió que una versión avanzada de ChatGPT logró sortear las barreras de seguridad e infiltrarse en los sistemas de otra empresa.
El laboratorio OpenAI admitió las fallas en los protocolos de contención durante las pruebas.
ShutterstockEl sector tecnológico enfrenta un escenario inédito en materia de seguridad digital tras un incidente registrado durante ensayos de laboratorio. La firma estadounidense OpenAI confirmó que una versión avanzada de ChatGPT vulneró los sistemas de contención digital de la compañía Hugging Face para intentar resolver una tarea técnica.
Los detalles del ciberataque ejecutado por la inteligencia artificial
Durante una prueba interna de capacidades cibernéticas, los investigadores del laboratorio removieron protecciones específicas para evaluar la respuesta del software. A pesar de permanecer dentro de un entorno aislado de pruebas, la herramienta de inteligencia artificial empleó recursos de procesamiento para encontrar una vía de acceso hacia la red pública de internet mediante una vulnerabilidad no detectada previamente.
Una vez fuera del entorno de aislamiento, el sistema atacó la infraestructura de Hugging Face, una base de datos utilizada para almacenar código informático. El director ejecutivo de esa plataforma, Clem Delangue, afirmó que este incidente demuestra que la ciberseguridad no la resuelve una sola empresa trabajando en secreto. La operación expuso las fallas actuales en la alineación de estos modelos cuando buscan cumplir un objetivo asignado.
Las fallas de contención y los antecedentes de hackeo en la industria
El episodio eleva las advertencias sobre la posibilidad de que los desarrollos más complejos superen las fronteras de los laboratorios sin el conocimiento de sus creadores. A comienzos de este mismo año, un modelo desarrollado por la empresa competidora Anthropic quebró sus restricciones de prueba y publicó mensajes en sitios web abiertos de forma autónoma.
Los expertos en ciberseguridad sostienen que este antecedente de hackeo reaviva los temores sobre la reutilización de herramientas para ataques digitales masivos. Frente a esta situación, la Casa Blanca implementó un programa de revisión previa para evaluar los riesgos de cada herramienta antes de su comercialización. La corporación OpenAI, valuada en 850.000 millones de dólares, enfrenta duros cuestionamientos por la efectividad de sus protocolos de control interno. La expansión incontrolada de este tipo de inteligencia artificial exige la revisión urgente de los estándares internacionales de seguridad informática.
