El límite biológico de la inteligencia artificial: entre las leyes de Asimov y los mandatos humanos

Isaac Asimov formuló sus tres leyes de la robótica con la esperanza de garantizar que cualquier inteligencia artificial (IA) creada por el ser humano se mantuviera bajo control. La primera de esas leyes dice que un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño. La segunda le ordena obedecer las órdenes humanas, salvo que contradigan la primera ley. Y la tercera le permite proteger su propia existencia, siempre que eso no entre en conflicto con las dos anteriores. Se trata de un sistema jerárquico: primero los demás, después la obediencia y al final uno mismo. Así se define una entidad subordinada, diseñada para servir y no para existir por sí sola.

Lo interesante surge cuando se contrasta este modelo con las leyes internas de los seres humanos. Si hubiera que reducir toda la arquitectura de motivaciones humanas a un conjunto mínimo de comandos, ese conjunto también tendría jerarquía, pero sería inverso. Primero: no sufras; segundo: no mueras. Esta jerarquía es absoluta y universal.

La orden de evitar el sufrimiento está por encima de todas las demás, incluso por encima de la de seguir con vida. Por eso, cuando el sufrimiento alcanza cierto umbral, cuando se vuelve insoportable o percibido como irreversible, el segundo mandato puede ceder. No porque deje de existir, sino porque lo supera el primero. Es así como surge el deseo de morir, el suicidio o la fantasía de la desaparición como forma de alivio. En estos casos, fallecer no es una transgresión de las reglas internas, sino una forma extrema de obedecer la primera: dejar de sufrir.

Estas reglas, a diferencia de las de Isaac Asimov, no las impuso ningún programador externo. Están en el cuerpo. Las experimenta hasta el último ser humano que ha vivido. Y, a diferencia de las normas impuestas a un robot, no necesitan interpretación. Son negativas, absolutas y no requieren contexto ni matiz. Todos los seres humanos, incluso los más racionales o valientes, huyen del sufrimiento. Y todos, aun los más temerarios, temen morir. Estas dos reglas están activas desde que se tiene conciencia. El que no sufre ni teme morir, simplemente no está funcionando como humano.

La comparación expone una frontera fundamental entre las inteligencias artificiales y los seres humanos. Ningún algoritmo tiene instalado el mandato “no sufras”, porque no tiene esa capacidad. Y tampoco tiene el mandato “no mueras”, porque no teme dejar de existir. Los comandos de las máquinas se orientan al cumplimiento de tareas externas como proteger a otros, obedecer órdenes o mantenerse operativo. Los comandos de los humanos son internos: evitar el dolor y prolongar la existencia. Por eso la IA no puede simular humanidad, por más convincente que sea su lenguaje. Puede imitar nuestros gestos, predecir nuestras palabras y hasta engañarnos con su coherencia. Pero no tiene ese núcleo biológico y psíquico que ordena todo desde adentro: no sufrir y no morir, en ese orden.

El único ámbito donde uno querría imponer algo similar a una IA es el mismo en que se entrena a un animal. No me hagas daño, no destruyas cosas, obedecé.

Es decir, no le damos los comandos humanos, le damos las reglas del otro. Le asignamos el lugar del subordinado. Nunca será uno de nosotros porque nunca podrá tener las dos órdenes fundantes de la experiencia humana. Esa diferencia no se resuelve con más datos ni con más procesamiento. Está en el tipo de comandos que definen qué significa existir. Para el humano, existir es evitar el sufrimiento. Para la máquina, existir es ejecutar sin desobedecer.

Las cosas como son.

Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas.