Pienso y siento, luego existo: Descartes en la era de la inteligencia artificial
Del robo de bitcoins a Descartes y la IA: una reflexión sobre el azar, el lenguaje y la pregunta más difícil de todas: ¿qué es la conciencia?
Dijo Descartes: pienso, luego existo. Con esa frase, cada uno de nosotros puede probarse a sí mismo que tiene conciencia, porque piensa y sabe que piensa.
Archivo.En otra nota (El robo de 1816 bitcoins y el pecado según Von Neumann) conté cómo una vieja idea de mi adolescencia de que las computadoras no pueden generar números aleatorios, terminó explicando un robo de 116 millones de dólares en bitcoin. La conclusión fue que el azar y los sistemas totalmente determinísticos no se llevan bien.
En este artículo vamos a dar un paso más
Si bien el determinismo elimina la posibilidad de libertad, el azar o el caos no la pueden asegurar tampoco. Lo no determinístico es condición necesaria, pero no suficiente. Que algo sea aleatorio no lo hace libre. Una moneda que cae al azar no decide nada. Entre un mundo donde todo está escrito y un mundo donde todo es puro azar, eso que llamamos elegir no encaja cómodo en ninguno de los dos. Porque elegir no es ni obedecer una regla ni tirar los dados: es otra cosa. Y esa otra cosa supone algo mucho más difícil de explicar: que haya alguien ahí, consciente de sí mismo, haciendo la elección. Sin conciencia de ser, no hay decisión: hay instinto. Y así, empezando con el robo de bitcoins, terminé en la pregunta más difícil de todas: ¿qué es la conciencia?
Te puede interesar
El paso a Chile se mantienen habilitado las 24 horas este martes
La certeza que no se puede compartir
Dijo Descartes: pienso, luego existo. Con esa frase, cada uno de nosotros puede probarse a sí mismo que tiene conciencia, porque piensa y sabe que piensa. El problema es que esa prueba es solo personal. Yo puedo estar seguro de mi propia conciencia, pero no tengo forma de probar que el vecino del octavo tenga la suya. Lo supongo, porque se parece a mí, porque actúa como yo. Pero suponer no es probar. Es un problema viejo de la filosofía, y con la Inteligencia Artificial vuelve al estrellato, porque si no puedo probar que otro humano tiene conciencia, mucho menos puedo asegurar que la tenga —o que no la tenga— una inteligencia artificial.
Y acá es fácil sacar conclusiones rápidas: "por favor, si un modelo de lenguaje lo único que hace es predecir la próxima palabra, ¿quién va a hablar de conciencia? Pura estadística". Lo entiendo, y quizás sea cierto, al menos por ahora. Pero ese argumento no alcanza: "predecir la próxima palabra" es una descripción de lo que un LLM hace por dentro, no una prueba de lo que siente o deja de sentir. Del vecino del octavo tampoco sé lo que siente por dentro, y no por eso le niego la conciencia, aunque no pueda probarla. Estamos, otra vez, ante la misma pared: desde afuera, ninguna conciencia es demostrable. Y me da intriga saber qué tan lejos está ese "predice la próxima palabra" de lo que hace nuestro cerebro con el lenguaje.
¿Se puede tener conciencia sin lenguaje?
Y se me ocurre una pregunta más: ¿los humanos podemos tener conciencia sin lenguaje? ¿O el lenguaje es una condición necesaria para ser conscientes de que somos? Un recién nacido, ¿tiene conciencia de "ser"? Apostaría que no del todo, porque sentir no alcanza. Pero entonces, ¿Cuándo la adquiere? ¿Cuando empieza a hablar? ¿Cuando usa el lenguaje para razonamientos complejos? Y llevada al extremo, la pregunta se vuelve incómoda de verdad: ¿los seres humanos tuvimos siempre conciencia de ser, o es algo que apareció en algún momento de nuestra historia, quizás de la mano de las palabras?
No es una ocurrencia mía. El psicólogo Julian Jaynes llegó a sostener, en los años 70, que la conciencia tal como la conocemos es un fenómeno reciente, nacido de la mano del lenguaje y de la cultura, no un rasgo eterno de la especie. Su teoría es discutida y casi nadie la compra entera, pero tiene el mérito de tomar en serio una pregunta obligada en la era de la inteligencia artificial. No tengo la respuesta, y es posible que nadie la tenga todavía. Pero la pregunta importa más que nunca, porque el lenguaje es precisamente lo que las máquinas acaban de conquistar.
De polémica en el bar a las oficinas de Anthropic
Esto que podría quedar en charla de sobremesa dio un paso más. Anthropic, que construye nada menos que los modelos de Claude, contrató en 2024 a su primer investigador dedicado exclusivamente al "bienestar" de la IA, con la tarea de estudiar si sus propios sistemas podrían merecer alguna forma de consideración moral. Que una compañía de tecnología destine gente a preguntarse si su producto puede sufrir, dice algo del momento que estamos viviendo. Esa idea que en principio parece salida de una charla de amigos, de repente aparece entre los creadores de la inteligencia artificial.
Y con todo esto, voy a dar un último salto al vacío con una idea todavía más vertiginosa. Si el objetivo más ambicioso de nuestra especie fuera crear un ser con conciencia propia —o incluso un universo entero—, y algún día lo lográramos, ¿qué nos garantiza que no somos, nosotros mismos, la creación de otra inteligencia que sintió el llamado del mismo desafío? Un universo consciente que crea otro universo consciente, que a su vez crea el suyo, en un bucle sin principio visible. No es una idea tan marginal: el filósofo Nick Bostrom la formuló en 2003 como la "hipótesis de la simulación", y mi vuelta de tuerca apenas le agrega el bucle infinito. No es más que una especulación, la más antigua disfrazada de novedad. Pero es hija de la misma duda de Descartes: la única conciencia de la que puedo estar seguro es la mía.
La inteligencia artificial llegó para desafiarnos
Lo que no esperábamos es que nos llevara a repensar qué es crear, qué es pensar, qué es ser. Estamos en un punto tan hermoso como perverso de la historia: uno que nos hace dudar de cosas que creíamos eternas. Y dudar, dijo alguna vez otro pensador, es ya empezar a pensar.
Si te gustan estas ideas, donde Descartes se mezcla con la simulación y el vértigo de crear conciencia, podés ver Matrix, Abre los ojos o Inception, o leer El mundo de Sofía.
Para quien quiera profundizar: el "pienso, luego existo" está en el Discurso del método de René Descartes (1637). La idea de que la conciencia podría depender del lenguaje, en "El origen de la conciencia en la ruptura de la mente bicameral" de Julian Jaynes (1976), una teoría tan fascinante como discutida. La hipótesis de la simulación, en "Are You Living in a Computer Simulation?" de Nick Bostrom (2003). Y el debate sobre el estatus moral de la IA puede seguirse en el programa de "model welfare" de Anthropic (2024) y en el informe "Taking AI Welfare Seriously" (2024), coescrito, entre otros, por el filósofo David Chalmers.
