La fuerte advertencia del CEO de OpenAI sobre la inteligencia artificial: "Podría terminar muy mal"

Sam Altman, director ejecutivo de OpenAI, volvió a encender las alarmas sobre el desarrollo acelerado de la inteligencia artificial. El empresario advirtió que uno de los escenarios más preocupantes sería perder el “control del futuro a manos de la IA” y reclamó mayores mecanismos de seguridad para evitar que las capacidades de estos sistemas avancen más rápido que las herramientas destinadas a supervisarlos.

El responsable de OpenAI señaló dos caminos por los que el desarrollo de la inteligencia artificial podría terminar “muy mal”. El primero es que la humanidad pierda el control frente a sistemas cada vez más poderosos. El segundo está relacionado con una excesiva concentración de poder: según Altman, si una inteligencia artificial extraordinariamente avanzada quedara bajo el dominio de una persona o una empresa capaz de imponer su visión al resto, los resultados podrían ser “extremadamente distópicos”.

El miedo a perder el control de la inteligencia artificial

Frente a ese escenario, Altman consideró necesario avanzar por un “angosto camino intermedio” que permita continuar con la innovación sin entregar demasiado poder a un laboratorio, una compañía o un país. También sostuvo que las empresas estadounidenses dedicadas a la IA deberán actuar de manera cada vez más responsable ante la aceleración experimentada por esta tecnología.

El CEO de OpenAI reclamó además un marco federal en Estados Unidos que establezca requisitos de seguridad uniformes para la llamada “IA de frontera”, es decir, los sistemas ubicados en el límite superior de las capacidades tecnológicas actuales. “Ninguna presión competitiva estadounidense debería justificar la imprudencia”, sostuvo Altman al plantear la necesidad de reglas consistentes para administrar los riesgos.

Evaluadores independientes y estándares comunes para la IA

La advertencia coincide con el planteo del director ejecutivo de Anthropic, Dario Amodei, quien propuso que las principales compañías permitan que evaluadores externos tengan un nivel de acceso similar al de sus empleados. Altman respaldó esa idea y aseguró que OpenAI también avanzará en ese sentido. Al mismo tiempo, defendió la creación de estándares de seguridad compartidos entre los laboratorios que desarrollan los modelos más avanzados.

La preocupación está vinculada, entre otras cuestiones, con la capacidad de los sistemas para contribuir al desarrollo de nuevas generaciones de inteligencia artificial. Amodei advirtió que, si ese proceso no es controlado, la evolución tecnológica podría superar la capacidad humana para comprender y controlar esos sistemas. Su propuesta contempla evaluaciones externas, estándares conjuntos de seguridad y medidas destinadas a limitar un avance descontrolado.

Altman aclaró, sin embargo, que reducir riesgos no significa detener la innovación. “Cuando hablamos de ‘ritmo’, no nos referimos a ‘detenernos’”, afirmó. Su posición apunta a mantener el progreso tecnológico, pero acompañarlo con sistemas de alineación, monitoreo y planificación capaces de responder al crecimiento de las capacidades de la IA.

Estados Unidos, China y el desafío de una regulación internacional

El último punto planteado por Altman es la necesidad de una coordinación internacional, un desafío atravesado por la competencia entre Estados Unidos y China por el liderazgo en inteligencia artificial. El presidente estadounidense Donald Trump rechazó una desaceleración de las empresas de su país por considerar que podría beneficiar a China. Altman, en cambio, pidió colaboración del Gobierno estadounidense para buscar acuerdos globales, mientras el sector tecnológico debate cómo evitar perder el control de una tecnología cuyo progreso, según sus propios desarrolladores, seguirá siendo rápido.