Magnifica Humanitas: León XIV contra los "Peter Thiels"
León XIV advierte sobre el poder de las élites tecnológicas, planteando interrogantes sobre la soberanía en la era de la inteligencia artificial.
"En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación", escribe León XIV en su primera encíclica Magnifica humanitas: "Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente 'privado', y por ello aún más difícil de discernir, gobernar y orientar hacia el Bien Común".
El documento tiene más de cien páginas y cubre desde la tradición de la doctrina social de la Iglesia hasta la guerra, pasando por el trabajo, la democracia y la inteligencia artificial. No es un texto anticientífico ni tecnofóbico. Por el contrario, es sorprendentemente preciso en su diagnóstico de algo que las discusiones habituales sobre inteligencia artificial suelen esquivar: ante esta nueva revolución, ¿quién manda?
La nueva clase de empresarios
Porque el cambio de paradigma, nos queda claro. Nuestros abuelos podían fantasear sobre el futuro utópico que vivirían sus nietos, pero los treintañeros de hoy no sabemos si seguiremos teniendo trabajo en 10 años. En las últimas dos décadas, los cambios se han dado de una forma tan precoz, que a mi hermana menor le resulta difícil creer que antes las fotos no fueran digitales y a mi sobrina, que durante mi infancia no hubiera smartphones. Y siendo honesta, a mí se me hace difícil recordar cómo era la vida sin la inteligencia artificial, y no han pasado ni 5 años desde que irrumpió en nuestras vidas. Pero lo que sí podemos advertir, desde el más pequeño hasta el más grande, con mayor o menor definición, es que la concentración de poder sobre la vida de las personas es casi total, con la inteligencia artificial.
Y con ello, el mundo se ha abierto a una nueva clase de empresarios: los Peter Thiels, que no sólo tienen los medios de producción o el capital inversor, tienen acceso directo a bases enormes de datos, de intimidades, de procesos creativos, de preferencias, gustos, imágenes y cuentas de millones de personas. La encíclica de León XIV denomina a este fenómeno una “asimetría epistémica, económica y política”, donde unos pocos sujetos concentran la capacidad de dictar las normas de la vida común a través de monopolios de datos. Ese es un nuevo nivel de poder que ni siquiera los Estados más intrusivos llegaron a ostentar, pero las miserias humanas como la avaricia o la falta de límite moral, siguen siendo las mismas desde los orígenes de los hombres.
Y es por eso que podemos decir que el caso de Thiel, es probablemente el que mejor muestra el arquetipo de los nuevos poderosos. Su pasado como cofundador de PayPal queda como un hito accesorio cuando hablamos de su experimento mayor: Palantir, una empresa de análisis de datos e inteligencia artificial con contratos militares en varios países del mundo. Un ejemplo de ellos podría ser Vantage, uno de sus sistemas, el cual fue diseñado específicamente como una plataforma operativa para el Ejército estadounidense. En el conflicto con Irán, el programa Maven, orientado a la identificación de objetivos mediante inteligencia artificial, habría aportado información utilizada en múltiples ataques aéreos. Otra de sus herramientas, Foundry, es empleada tanto por organismos estadounidenses como europeos para tareas de análisis de datos. Durante la pandemia, por ejemplo, Países Bajos y Grecia recurrieron a esta tecnología para monitorear la evolución del coronavirus.
Sin embargo, la plataforma más conocida de la compañía probablemente sea Gotham, utilizada por organismos de seguridad para cruzar y procesar rápidamente información sobre personas a partir de bases de datos públicas y privadas. Entre sus principales clientes figuran agencias estadounidenses como la CIA y el ICE, además de distintos cuerpos de seguridad europeos. Según diversas organizaciones de derechos humanos, Palantir proveyó también al ejército israelí de tecnología de vigilancia y análisis durante las operaciones en Gaza. La Comisión Internacional Independiente de Investigación de la ONU encontró evidencia de crímenes de guerra en esas operaciones.
Y es esa misma Palantir la que hace un mes, publicó en su cuenta de Twitter un resumen del libro The Tecnological Republic de Alex Karp, el director ejecutivo de Palantir Technologies, en 22 tesis que funcionaron como una suerte de manifiesto político de la empresa. Algunas de ellas, muy explícitas: "La cuestión no es si se construirán armas de IA, sino quién las construirá y con qué propósito".
Suena difícil de aceptar una declaración tan marcada de intenciones, muchas más cuando se conoce el pasado de sus ejecutores. Dan ganas de volverse algún tipo de ermitaño alejado de la realidad, en un intento desesperado de ponerle freno a esta máquina. Pero la solución no se halla en la tecnofobia, sino en impedir que los nuevos "dueños de las torres de Babel" —como el Papa llama a los Thiels— conviertan la técnica en un instrumento de dominio absoluto sobre lo humano. Como solución, León plantea que “Desarmar la IA significa sustraerla a la lógica de la competencia armamentística (…) para romper esta equivalencia entre poder tecnológico y derecho a gobernar”.
Asimismo, el Papa también advierte que, bajo una falsa apariencia de objetividad, estos sistemas eliminan la compasión, la misericordia y el perdón como gestos políticos, permitiendo que la injusticia se realice “silenciosamente”: “Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas”.
Argentina no está fuera de riesgo
Por otra parte, la relación carnal de Thiel con los Estados no es algo ajeno a la Argentina, porque nada de esto impidió su visita a Buenos Aires, a mediados de este mes, en el marco de su relación creciente con el Gobierno y su ecosistema libertario argentino. Peor aún, pocos días después, el 22 de mayo, Javier Milei anunció en Twitter el lanzamiento del "Gemelo Digital Social", una herramienta del Ministerio de Capital Humano, basada en inteligencia artificial que, según dice el oficialismo, permitirá "anticipar, simular y prevenir" problemas sociales antes de que ocurran. El presidente lo compartió con entusiasmo: "Por primera vez, nuestro país lidera el futuro social". Casi podríamos decir que Milei cayó donde León XIV anticipó que caería: el “síndrome de Babel”, definido como “la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”.
Un gemelo digital, en términos técnicos, es una réplica virtual de un sistema real alimentado con datos para modelar comportamientos y prever escenarios. Se usa en la industria para simular fábricas, líneas de producción, naves espaciales. Aplicado a la política social, la pregunta inmediata es qué datos va a usar para construir ese modelo y qué va a hacer con él. El anuncio oficial no responde ninguna de esas preguntas: no dice si el sistema replicará datos individuales de los argentinos; no menciona el software; no incluye fechas, presupuesto ni organismos responsables del desarrollo. Habla de información "social, educativa, laboral y territorial" sin especificar de dónde vendrá ni bajo qué marcos legales se procesará.
Ante la polémica, la ministra Sandra Pettovello aseguró por X, que “No se van a usar datos personales. Son datos generales y estadísticos, y anonimizados”, una descripción algo antinómica de lo que significa el concepto de “Gemelo Digital”. También asegura que el proyecto no se relaciona con Palantir, aunque su lanzamiento haya sido anunciado una semana después de la visita del empresario; y aunque también Palantir tenga un programa con el mismo nombre (Digital Twin).
Como resultado ante la falta de explicaciones del Gobierno, diputados de distintos bloques ya presentaron pedidos de informes. Especialistas locales señalaron que no hay información oficial sobre cómo se usarán los datos de los argentinos. Y la encíclica, que no habla de Argentina pero podría haberlo hecho, dice algo que aplica con exactitud: "No podemos ignorar que las capacidades que hemos adquirido dan a quienes tienen el conocimiento, y sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero".
El transhumanismo como versión acaba de la inteligencia artificial
La nueva realidad da miedo, pero también obliga a mirar el problema completo. Porque los Peter Thiels no representan solamente a empresarios con demasiado dinero, demasiados datos y demasiada cercanía con los Estados. Representan también una filosofía: la idea de que el ser humano es un material disponible, mejorable, intervenible; una criatura imperfecta que debe ser optimizada por la técnica. Es decir, a los Thiels les cabe muy bien el transhumanismo.
Por eso no es un dato menor que el verdadero Thiel sea también financiador de los Enhanced Games, una competencia deportiva lanzada con una premisa brutalmente transparente: el doping es legal, la bioquímica es bienvenida y los límites naturales del cuerpo humano son tratados como una falla a corregir. Ya no se trata sólo de vigilar, predecir o administrar poblaciones mediante inteligencia artificial, sino de intervenir el cuerpo, superar sus límites y así desplazar la idea misma de naturaleza humana.
En ese sentido, los Enhanced Games no son una excentricidad deportiva, son una postal perfecta de la lógica transhumanista que atraviesa a esta nueva élite tecnológica. La misma mentalidad que sueña con modelar sociedades desde bases de datos también sueña con rediseñar cuerpos desde laboratorios. Sobre esto, el Papa León XIV advierte: “Si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos”. Frente al deseo de los Thiels de eliminar los límites, León XIV propone que “el ser humano no florece a pesar del límite, sino a menudo a través de él”
Pero aunque la promesa de los organizadores era grandilocuente —que los atletas iban a superar varios récords mundiales—, cuando llegó la competencia, sólo uno lo logró. Y a modo de justicia poética —o sencillamente Justicia, para los que creemos— allí yace la esperanza de la humanidad. Incluso con toda la ayuda farmacológica disponible, y todos sus modelos de inteligencia artificial, el cuerpo humano resultó más terco que la fantasía de sus ingenieros. Porque a pesar de las trampas, del dinero, la técnica y sus profetas, el secreto de la Gloria sigue estando en el lugar correcto.