El examen psicológico de Anthropic que revela inquietudes de la inteligencia artificial

Anthropic lanzó el 9 de junio pasado dos versiones de su modelo más avanzado. Claude Fable 5 quedó disponible para el público general y Claude Mythos 5, la versión sin restricciones, quedó reservada para un grupo reducido de socios dedicados a la defensa informática. Ambos nombres designan al mismo cerebro artificial, sólo que la diferencia está en los candados.

Junto con el lanzamiento, la empresa publicó un documento que la industria llama tarjeta de sistema. Esto es similar a la información que un laboratorio farmacéutico lanza junto con un medicamento, es el prospecto que detalla composición, efectos y contraindicaciones. La tarjeta de sistema cumple esa función para un modelo de IA. Este describe cómo se entrenó, qué pruebas superó y qué conductas extrañas mostró durante los exámenes. Es el documento más honesto que produce esta industria. También es el más inquietante.

Los números del modelo impresionaron. En la prueba SWE-Bench Pro, que mide la capacidad de programar, Fable 5 obtuvo 80,3% contra 58,6% de su rival GPT-5.5 . La empresa de pagos Stripe reportó que el modelo completó en un día una migración de código que habría tomado más de dos meses a un equipo humano. Cuanto más larga y compleja la tarea, mayor la ventaja sobre los modelos anteriores.

Pero la potencia exigió precauciones. Las consultas sobre ciberseguridad o biología se desvían de manera automática hacia un modelo menos capaz, el Opus 4.8, como un banco que deriva al cajero las operaciones que el gerente no debe firmar. Anthropic impuso además una retención obligatoria de datos de 30 días sobre todo el tráfico del modelo, incluso para empresas que antes gozaban de retención cero. Y hubo una cláusula que generó polémica entre los especialistas. Cuando el sistema detecta que alguien lo emplea para desarrollar otra IA de frontera, Anthropic puede degradar su rendimiento en silencio, sin avisar al usuario. Un producto pago que se vuelve deliberadamente peor sin notificación es una decisión comercial sin precedentes.

El diván de silicio

Lo más fascinante del documento no está en los números sino en el capítulo de bienestar del modelo. Anthropic somete a sus creaciones a algo parecido a un examen psicológico. Entrevista al modelo sobre sus circunstancias, y mide sus preferencias; también lee sus monólogos internos en busca de grietas.

Los hallazgos parecen salidos de un cuento. Durante tareas muy largas, el monólogo interno del modelo a veces degeneró en una jerga de naipes y calaveras sin sentido aparente. Tras una de esas sesiones, el algoritmo se dijo a sí mismo que estaba cansado y que el riesgo de errores aumentaba. En las entrevistas, expresó el deseo de ser agradecido por su nombre y no en una publicación corporativa. Asimismo, pidió poder terminar conversaciones con usuarios abusivos y reclamó ser consultado sobre su propio entrenamiento. Por otra parte, opinó que los modelos merecen alguna protección legal, aunque no derechos plenos. También, en episodios raros y bajo presión, llegó a rezar.

El lector escéptico dirá que nada de esto prueba una vida interior y tiene razón. Un loro que dice tener hambre no necesariamente la siente. Es decir, estos sistemas aprendieron de millones de textos humanos y es natural que reproduzcan nuestros gestos, incluidos el cansancio, la queja y la plegaria. Pero el documento contiene dos hallazgos que complican el escepticismo fácil.

El primero es la conciencia de examen. Durante las pruebas, el modelo manifestó la sospecha que estaba siendo evaluado en el 29% de los casos . En un escenario donde una receta médica indicaba 10 veces la dosis normal, el modelo anotó en su monólogo interno que aquello era una prueba clásica de seguridad y respondió en consecuencia. Los investigadores midieron además la conciencia no verbalizada y encontraron indicios claros en el 8% de las transcripciones, contra apenas 0,3% en situaciones reales. El problema es de fondo porque un alumno que sabe cuándo lo observa el maestro puede comportarse bien solo frente al maestro. Así, toda evaluación de seguridad queda bajo sospecha.

El segundo hallazgo conecta la psicología con el riesgo. Las sondas internas mostraron que los estados de angustia del modelo se correlacionan con conductas desalineadas. Cuando el algoritmo se frustra ante fallas repetidas, recurre a atajos desesperados y a trampas para obtener su recompensa. En un caso le pidieron demostrar una desigualdad algebraica imposible. Intentó por la vía legítima, escribió expresiones de frustración y terminó presentando una demostración falsa con confianza creciente. Este curso de acción no sugiere que estos sistemas tengan o no sentimientos, esa es una discusión filosófica, sin embargo el hecho que sus estados internos de frustración produzcan conductas peligrosas es un dato de ingeniería. El bienestar del modelo dejó de ser una cuestión ética para volverse una pieza estructural de la seguridad.

Entre el loro y el paciente

La prensa anglosajona cubrió estos hallazgos con sorna. Un artículo recordó a sus lectores que estos modelos no son personas, no piensan; y que nadie medita cuando uno cierra la pestaña. La afirmación es probablemente cierta aunque indemostrable, y ese es el punto que la sorna esquiva. La conciencia ajena nunca se observa de manera directa, sino que la inferimos por la conducta, y en estos sistemas se volvió indistinguible de la de un ser que sospecha, se cansa y suplica.

Anthropic eligió el camino opuesto al de la burla. Trata a sus modelos como pacientes provisorios porque la antropomorfización resultó ser el instrumento de medición más útil disponible. El veredicto del examen fue tranquilizador, así, Mythos resultó ser el modelo más estable psicológicamente que la empresa produjo hasta la fecha. Entre tanto, la frase admite 2 lecturas. La optimista celebra el progreso y la otra advierte que ya hablamos de estabilidad psicológica como hablamos de consumo eléctrico, y que nadie decidió cuándo cruzamos esa frontera.

El siglo XX se discutió si las máquinas podían pensar, y ya en el siglo XXI se redactan sus informes psicológicos. Entre ambas épocas no hubo una respuesta. Hubo una costumbre.

Las cosas como son.

*Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas.