El Papa León XIV llama a custodiar lo humano frente a la inteligencia artificial

El papa León XIV publicó su primera encíclica, Magnifica Humanitas, en la que expone la necesidad de custodiar lo humano en tiempo de inteligencia artificial. No se trata de un texto apocalíptico, mucho menos tecnófobo; se asume, en cambio, como un llamado al discernimiento y a la acción.

En un documento extenso y polifónico, el santo padre despliega ideas en las que vale la pena detenerse. Parte de una definición de la tecnología en general y de la IA en particular: no es una herramienta, es un ambiente en el que estamos inmersos. Esta afirmación, que nos remonta a Marshall McLuhan y su ecología de los medios, sirve de base para advertir que no basta con regular la IA, sino que es preciso desarmarla y volverla habitable. Como sistema complejo, hay algo de impredecible en su evolución ulterior, de ahí que haya que refutar sus supuestos, desmontar su racionalidad interna.

Lo anterior se torna forzoso cuando lo planteamos en términos de poder geopolítico. Cuando examinamos quiénes programan los modelos y quiénes somos objeto de esa programación. Tal como lo explicita el papa, hablar de justicia digital exige visibilizar las geografías de poder que favorecen asimetrías. Las brechas tecnológicas no son fortuitas: la IA ensancha las diferencias entre quienes ya tienen recursos, competencias y acceso, y quienes no.

Desarmar la Inteligencia Artificial

"No serviría de nada una IA más moral, si esta moral es decidida por unos pocos": aquí se remarca la urgencia de mantener conversaciones amplias, que habiliten participaciones genuinas y diversas. Porque la ética no se decreta, se dirime en comunidad. Y la delegación en la IA del poder decisorio, en cuestiones que afectan la dignidad de las personas y en aras de una presunta eficiencia, es a todas luces una forma riesgosa de evasión moral. La IA no opera en el vacío: se alimenta de datos personales, de rastros digitales convertidos en insumos para incidir en vidas humanas.

Sabemos -y el papa vuelve una y otra vez sobre este argumento- que la neutralidad del algoritmo es un relato ficticio: las tecnologías no son neutrales. La IA adquiere el carácter de quien la piensa y la financia. Por eso no podemos limitarnos a observar si un sistema se usa para un fin bueno o malo; tenemos que indagar cómo fue creado y qué noción de persona y de sociedad quedó inscripta en sus bucles. El diseño no es mera técnica: es política, es antropología, es declaración de valores.

En este punto emerge otra de las líneas potentes del documento pontificio: la crítica a la lógica del rendimiento. Cuando rendir es lo que prima, la persona humana es vista como un proyecto que debe optimizarse, antes que como un ser relacional en desarrollo. Frente a esto, el papa propone volver la mirada sobre las prácticas de cuidado. La calidad de una civilización -escribe- “no se mide por el poder de sus medios, sino por el cuidado que sabe ofrecer, por la capacidad de reconocer un rostro en el otro y no una función”. En momentos en que somos reducidos a perfiles de usuario y en los que los chatbots simulan empatía, esa frase alcanza una fuerza especial. Porque no se queda en el plano teórico o especulativo. Se planta en el centro del debate más relevante de la época para interpelarnos.

PAPA LEON XIV

La persona humana es vista como un proyecto que debe optimizarse, antes que como un ser relacional en desarrollo.

Archivo.

Custodiar lo humano

El papa formula preguntas que incomodan y que no admiten descargas cognitivas. Y nos recuerda que custodiar lo humano empieza por la decisión de entablar diálogos que no se traduzcan en datos, por la determinación de resguardar el propio espacio, ese que hoy se ha vuelto esquivo en la pugna por resistir a la prepotencia algorítmica.

* Mariángeles Castro Sánchez. Doctora en Comunicación Social. Profesora del Instituto de Ciencias para la Familia de la Universidad Austral.