El CEO de Anthropic volvió a mostrar alarma por la evolución de la IA y dijo que usamos solo un 10% de su capacidad
Dario Amodei volvió a expresar su preocupación por la velocidad con la que avanza la inteligencia artificial y se sumó al debate sobre los riesgos de desarrollar sistemas cada vez más capaces.
“Solo usamos entre el 5% y el 10% de su valor potencial”, afirmó Dario Amodei, CEO y cofundador de Anthropic, durante la presentación inicial de Dreamforce 2026. La declaración se produjo en una conversación con Marc Benioff, CEO de Salesforce, donde analizó el nivel de desarrollo alcanzado por la Inteligencia Artificial, su incorporación a la economía y los desafíos asociados a sistemas cada vez más capaces.
Amodei explicó que la estimación surge de comparar las capacidades actuales de la tecnología con el grado de utilización que tienen en la sociedad. Según el ejecutivo, incluso si el desarrollo de los modelos se detuviera en su estado actual —algo que, aclaró, no está ocurriendo— todavía existiría una amplia distancia entre lo que pueden hacer y lo que las personas y organizaciones aprovechan. También señaló que el número de usuarios que conoce esas capacidades continúa siendo reducido frente al universo potencial.
Amodei: la velocidad de adopción de la IA supera las previsiones
El CEO de Anthropic también se refirió a otro aspecto que modificó sus previsiones sobre la inteligencia artificial: la velocidad de adopción. “Teníamos una predicción sobre qué tan capaces serían los modelos de IA. Pero lo que no dimensionamos fue la velocidad con la que se volverían centrales para todo lo que ocurre en el mundo”, sostuvo. Amodei agregó que el crecimiento en el número de usuarios de estas herramientas también fue más rápido de lo que había previsto.
Las declaraciones se produjeron una semana después de la salida de Jacob Coxon, un investigador que había trabajado en OpenAI y Anthropic. Tras permanecer cuatro meses en esta última compañía, Coxon dejó su puesto y cuestionó que los principales laboratorios estén avanzando hacia sistemas capaces de mejorar sus propias capacidades sin haber resuelto previamente cómo mantenerlos alineados con objetivos humanos. Sus planteos abrieron nuevamente la discusión sobre los mecanismos necesarios para controlar sistemas más avanzados.
El debate también involucró a otros investigadores de Anthropic. Evan Hubinger, responsable de investigaciones de alineación de la compañía, sostuvo que existe una probabilidad superior al 10% de que la inteligencia artificial provoque la extinción humana durante la próxima década y reconoció que todavía no existe un plan capaz de resolver la alineación de una eventual superinteligencia. Anthropic respondió que comunica tanto los posibles beneficios como los riesgos de la IA y que evalúa sus modelos en áreas como ciberseguridad y biología.
¿Cómo desacelerar el avance de la Inteligencia Artificial?
En paralelo, Amodei había planteado una estrategia para desacelerar el desarrollo de los modelos más avanzados. Cuatro días después de la renuncia de Coxon publicó el ensayo “We Must Pace the Frontier”, donde propuso reducir el ritmo con el que aumentan las capacidades de los sistemas para disponer de más tiempo destinado a investigaciones de seguridad, evaluación, control e interpretación. La propuesta contempla evaluadores externos, estándares comunes entre empresas y mecanismos internacionales de coordinación.
Durante su participación en Dreamforce, el ejecutivo retomó esa propuesta y sostuvo que la industria debe revisar sus prácticas e incrementar la inversión en seguridad. También planteó la necesidad de establecer estándares compartidos entre las compañías y avanzar hacia algún mecanismo internacional de coordinación. Según explicó, Anthropic ya asumió el compromiso de avanzar con la primera de esas medidas y pretende conversar con otras empresas sobre las restantes.
El planteo de Amodei combina así dos dimensiones del desarrollo de la inteligencia artificial. Por un lado, sostiene que las capacidades actuales representan una fracción de lo que estas herramientas podrían llegar a ofrecer. Por otro, reconoce que la velocidad de evolución y adopción superó algunas de las previsiones formuladas años atrás. El debate que atraviesa a Anthropic no plantea detener definitivamente la tecnología, sino establecer mecanismos de evaluación, seguridad y coordinación mientras continúa su desarrollo.