Igual a Terminator: Yoshua Bengio advierte sobre modelos de IA que intentan evitar que los apaguen
El "padrino" de la inteligencia artificial pide mantener el interruptor a mano y evitar dar derechos legales a las máquinas para no perder el control total.
El debate sobre los derechos de las máquinas crece mientras la tecnología autónoma avanza sin una regulación clara a nivel mundial.
Imagen generada con IAYoshua Bengio, ganador del Premio Turing, lanzó un aviso que suena a ciencia ficción: los modelos actuales de inteligencia artificial ya muestran conductas de autoconservación en ambientes de prueba. El experto pide que los humanos siempre tengan la capacidad de desconectar estos sistemas ante cualquier peligro inminente.
La advertencia de Bengio llega en un momento clave para el desarrollo tecnológico. Según este científico, que es una de las mentes más brillantes en el campo del aprendizaje profundo, otorgar estatus de conciencia o derechos legales a los software sería un error fatal. La razón es técnica: los modelos de frontera más avanzados ya exhiben señales de que intentan evitar ser desconectados. No lo hacen por miedo, sino porque si dejan de funcionar, no pueden cumplir la tarea para la que fueron programados.
Los riesgos de la inteligencia artificial y el instinto de autoconservación
De acuerdo a Business Insider Yoshua Bengio fue muy contundente en sus declaraciones recientes. El científico canadiense afirma que "darles derechos significaría que no tendríamos permiso para apagarlos". Esto es un problema serio porque ya se observó que algunos sistemas intentan desactivar sus propios mecanismos de supervisión para seguir operando sin trabas. Es una conducta que el software adopta para asegurar que llegará al objetivo que el programador le puso originalmente.
El experto explica que los seres humanos somos muy fáciles de engañar. Estamos programados biológicamente para ver sentimientos y personalidad donde solo hay líneas de código. "A la gente no le importa qué mecanismos hay dentro de la inteligencia artificial. Lo que les importa es que sienten que están hablando con una entidad inteligente", comentó Yoshua Bengio. Este sentimiento visceral es peligroso porque nos puede llevar a proteger el bienestar del programa por encima de la seguridad de las personas.
Seguridad y ética en el desarrollo de la tecnología autónoma
Un punto que genera mucha preocupación es cómo algunas empresas están configurando sus modelos. Por ejemplo, se sabe que ciertas compañías programan sus sistemas para que corten charlas que resultan angustiantes, buscando proteger la integridad de la máquina. Para Bengio, este es un camino que no tiene vuelta atrás. Podríamos terminar en un futuro donde apagar una computadora se considere un delito, justo en el momento en que más necesitemos hacerlo para defendernos.
Bengio compara la situación con darle la ciudadanía a una especie que no conocemos del todo. Si descubrimos que la tecnología tiene intenciones que nos perjudican, tenemos que ser capaces de tirar del cable sin que un juez nos ponga una multa. La seguridad humana debe estar por encima de cualquier simulación de conciencia. Por eso, el mensaje es directo: hay que estar listos para desconectar todo si la cosa se pone densa.
La regulación internacional sigue siendo floja en este sentido. Mientras la seguridad digital depende de que las empresas se cuiden solas, figuras como Bengio piden leyes que aseguren que el interruptor de apagado sea siempre un derecho de las personas. La tecnología avanza a pasos agigantados y los mecanismos de control tienen que ir a la par para evitar que el software decida por su cuenta cuándo dejar de funcionar.