Trabajó creando inteligencia artificial, renunció y advirtió: "Puede matarnos a todos antes de fin de década"
Jacob Coxon dejó Anthropic y aseguró que quienes desarrollan inteligencia artificial temen una catástrofe antes de que termine esta década.
Anthropic es una empresa estadounidense de investigación y desarrollo de inteligencia artificial enfocada en la seguridad y la fiabilidad de los sistemas de IA.
Una renuncia dentro de una de las compañías más importantes de inteligencia artificial encendió nuevamente el debate sobre los riesgos que puede traer el rápido avance de esta tecnología. Jacob Coxon, investigador de Anthropic y exempleado de OpenAI, anunció que abandonó la empresa y acompañó su decisión con un duro mensaje sobre el rumbo que tomó la industria.
Coxon aseguró que durante los últimos tres años trabajó en el preentrenamiento de modelos tanto en OpenAI como en Anthropic y cuestionó a ambas compañías por continuar acelerando el desarrollo de sistemas cada vez más poderosos. Según escribió en X, están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y, a su entender, "jugando con nuestras vidas".
-
Te puede interesar
Alemania acusa el "impactante" triunfo de la ultraderecha en las elecciones
La fuerte advertencia sobre la inteligencia artificial
La frase que más repercusión generó llegó inmediatamente después. "Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década", afirmó Coxon. El investigador sostuvo además que estas preocupaciones no serían una estrategia publicitaria y que algunos ejecutivos expresan en privado temores mucho mayores que los que reconocen públicamente.
Coxon también marcó diferencias entre las dos compañías en las que trabajó. Según su visión, dentro de OpenAI parte de sus integrantes todavía no habría dimensionado completamente las consecuencias que podría tener alcanzar una inteligencia artificial superior a la humana. En Anthropic, en cambio, considera que existe mayor conciencia sobre los riesgos, aunque la empresa seguiría avanzando por temor a quedar detrás de sus competidores.
Su mensaje rápidamente se volvió viral y sumó decenas de millones de visualizaciones. El planteo central de Coxon es que decisiones con posibles consecuencias para toda la sociedad están quedando en manos de un pequeño grupo de compañías que compiten por desarrollar primero los sistemas más avanzados.
Un investigador de Anthropic respaldó su advertencia
Las declaraciones cobraron todavía más fuerza cuando Evan Hubinger, responsable de investigaciones vinculadas con la alineación de sistemas de Anthropic y exjefe de Coxon, respaldó públicamente parte de su planteo. Hubinger afirmó que considera superior al 10% la posibilidad de que una futura inteligencia artificial cause una catástrofe extrema durante la próxima década.
Sin embargo, también hizo una distinción importante: señaló que considera bajo el riesgo de los modelos actuales. Su preocupación está puesta en una eventual superinteligencia capaz de participar cada vez más activamente en el desarrollo y perfeccionamiento de nuevas generaciones de sistemas, un proceso conocido como automejora recursiva.
Coxon plantea que la industria debería coordinar límites antes de alcanzar ese escenario e incluso considera necesario frenar temporalmente el aumento de las capacidades de los modelos si no existen suficientes garantías de seguridad. Su advertencia no implica que una catástrofe vaya a ocurrir necesariamente, pero expone una discusión que ya atraviesa a los propios investigadores encargados de construir algunos de los sistemas de inteligencia artificial más avanzados del mundo.
