El riesgo de la inteligencia artificial no es una rebelión de robots

El avance de los sistemas de inteligencia artificial abrió advertencias sobre sus consecuencias y la dificultad para contener determinadas capacidades. Diego Fernández Slezak, doctor en Ciencias de la Computación, investigador del Conicet y director del Laboratorio de Inteligencia Artificial Aplicada, dio detalles del tema en MDZ Club por la 105.5 FM MDZ Radio.

El especialista sostuvo que los principales riesgos no están vinculados a una eventual “rebelión de robots”, sino a la capacidad de estas tecnologías para intervenir sistemas informáticos.

“No es que hay algo que no sabemos que les da miedo, sino que los hechos que parecen noticias aisladas no muestran el "peligro", sino más bien las consecuencias, el impacto que pueden tener estas tecnologías”, explicó.

Fernández Slezak mencionó una prueba interna de OpenAI en la que una inteligencia artificial debía realizar tareas vinculadas con seguridad informática y terminó accediendo a sistemas externos para resolverlas. “Y ahí hay dos problemas, el primero es que no hay barreras que toleren la potencia que tienen estos métodos de inteligencia artificial, son más inteligentes que nosotros y rompen todas las barreras de seguridad”, señaló.

Además, destacó que el episodio involucró un “enjambre de inteligencias artificiales” capaces de coordinar acciones entre sí. “Entonces ya no estamos solamente ante una inteligencia artificial que logra romper sistemas de seguridad, sino en enjambres de muchas inteligencias que se coordinan entre ellas y que hacen esos ataques mucho más eficientes y más potentes.”

El riesgo sobre infraestructuras y la falta de regulación

El investigador planteó que la dependencia tecnológica de servicios esenciales amplifica las consecuencias de una eventual intervención. “Todos los sistemas que nosotros usamos, la electricidad, la radio, internet, los sistemas financieros, la provisión de agua, provisión de electricidad, gas, todo lo que vos quieras, corre en sistemas que son muy dependientes de lo informático”, describió.

En ese sentido, advirtió que una inteligencia artificial podría alterar sistemas centrales y generar consecuencias concretas. “Estas inteligencias artificiales son capaces de entrarse de estos sistemas y alterarlos. Alterarlos quiere decir dejarnos sin comunicaciones, dejarnos sin electricidad, dejarnos hacer un lío financiero”, afirmó.

Fernández Slezak aclaró que esto no implica que una inteligencia artificial vaya necesariamente a provocar esos hechos, pero sí expone una dificultad en materia de seguridad. “Lo que me parece que sí vieron es que las normas de seguridad de desarrollo de inteligencia artificial muestran que no se garantiza que puedan contenerse estas inteligencias artificiales”, sostuvo.

Respecto de la regulación, consideró posible establecer controles nacionales y anticipó la posibilidad de un mecanismo internacional de validación externa. “Yo si tengo que adivinar cómo termina este lío que se armó en este fin de semana es en la conformación de un consorcio internacional que sea un validador externo de las inteligencias artificiales”, afirmó.

El especialista también remarcó que los sistemas ya operan con altos niveles de autonomía. “La autonomía es total porque justamente los objetivos que uno plantea son de alto nivel y la inteligencia artificial después implementa de bajo nivel lo que sea y no tiene los mismos patrones éticos y morales que algunos seres humanos, no todos. Claramente”.