Juan Pablo Da Rocha: "El mayor problema con la inteligencia artificial es la dificultad para distinguir qué es real"

—¿Pensás que se debría avanzar en regulaciones o en algún tipo de disclaimer que indique cuándo algo fue realizado por un agente de IA? Por ejemplo, si un agente realiza una compra y se equivoca.

—Están pasando muchas cosas al mismo tiempo y a una velocidad enorme. Si pensamos en la "curva de adopción de Rogers", toda innovación atraviesa distintas etapas. Primero la adopta una minoría entusiasta, luego los primeros adoptantes y recién después llega al mercado masivo. Ese proceso suele llevar tiempo. Lo vimos con Web3, que es una tecnología muy disruptiva para el sistema financiero. Bitcoin nació en 2009 y llevamos más de quince años viendo cómo evoluciona. La diferencia es que la inteligencia artificial avanza mucho más rápido de lo que podemos procesar o regular. Las regulaciones suelen ser lentas, mientras que la innovación avanza a una velocidad que se lleva todo por delante.

Hoy existe ansiedad por conectar agentes o modelos de lenguaje a cuentas personales, correos electrónicos y sistemas críticos. Ya se conocen casos documentados de agentes que borraron correos electrónicos o cometieron errores importantes durante pruebas. Incluso una ingeniera de Meta atravesó una situación de ese tipo. Por eso creo que estas situaciones van a seguir ocurriendo hasta que logremos alcanzar cierto nivel de regulación. Y la regulación es importante.

Más allá de la creación de contenido, que tecnológicamente me parece fascinante —por ejemplo, poder generar una novela completa o una serie de episodios creados y coordinados por inteligencia artificial—, el gran problema hoy es otro: la dificultad para distinguir qué es real y qué no lo es. Podemos debatir si una poesía creada por IA es arte, si tiene alma o valor cultural. Pero cuando una persona ya no puede distinguir entre un video falso y una persona real dando un mensaje, ahí sí aparece un problema serio que necesita regulación.

Contenido sintético y disntiguir qué cosa es real

—La exploción de la IA se construyó sobre contenido generado por humanos. ¿Qué pasaría si en el futuro la mayoría del contenido disponible es sintético y generado por inteligencias artificiales?

—Hay varios pensadores que están planteando justamente ese escenario: una inteligencia artificial alimentándose cada vez más de contenido generado artificialmente. Es una de las hipótesis posibles. Como dije antes, es muy difícil saber qué va a pasar. Existen distintas miradas. Por ejemplo, Yuval Harari tiene una visión bastante más pesimista, cercana a escenarios como se plantean en los libros 1984 o Un mundo feliz. No descarto que puedan existir riesgos, pero nadie lo sabe con certeza.

Lo que sí me parece importante recordar es que la inteligencia artificial sigue siendo una herramienta. Si uno mira la historia de la humanidad, cada gran revolución tecnológica generó temores similares. Desde la Revolución Industrial hasta internet, siempre hubo quienes anunciaban el fin del trabajo o el colapso del sistema. El mundo siempre tuvo que adaptarse. Y, en general, el problema no son las herramientas, sino lo que hacemos los seres humanos con ellas.

—Mencionaste la adopción masiva. ¿Creés que ese será el próximo gran salto de la IA?

—haría una distinción entre adopción y uso con impacto real. Alguien puede sentir que adoptó la inteligencia artificial porque usa ChatGPT, Claude o cualquier otro modelo para hacer consultas, buscar información o resolver dudas cotidianas. Eso está bien, pero no necesariamente implica que esté resolviendo un problema de negocio o generando una mejora significativa. Lo que importa es la IA aplicada a casos de uso concretos: problemas reales que generen eficiencia, aceleren procesos o permitan hacer cosas que antes eran imposibles. Hoy conviven las dos situaciones. Hay mucha adopción inicial, pero no siempre se traduce en productividad real. Los agentes, en cambio, son una evolución más orientada a resolver problemas concretos.

La automatización de procesos existe desde hace décadas. La diferencia es que ahora podemos incorporar modelos capaces de interpretar información y tomar decisiones dentro de esos procesos. Antes todo se resolvía mediante reglas predefinidas: si pasa esto, hacé aquello. Hoy podemos decirle al sistema que interprete un contexto y actúe en consecuencia. Ahí está el gran cambio. Por eso aparecen casos de uso muy interesantes, como agentes que atienden llamadas, entienden lo que necesita un cliente, buscan información y lo derivan correctamente. Ahí veo muchísimo valor.

—¿La tendencia es hacia una inteligencia artificial general o hacia múltiples IA especializadas?

—Si pensamos en resolver problemas concretos, tiene mucho más sentido la especialización. Una IA experta en química puede ayudar a descubrir medicamentos o vacunas. Una especializada en derecho puede asistir a abogados, encontrar información histórica o detectar patrones que antes resultaban invisibles.Las inteligencias especializadas tienen un enorme potencial para resolver problemas. Ahora bien, también creo que la búsqueda de una inteligencia artificial general va a continuar. Ambas cosas van a avanzar en paralelo. La diferencia es que la carrera por la inteligencia artificial general tiene mucho de competencia entre las grandes compañías tecnológicas. Es una disputa por construir su propio "Frankenstein", por demostrar quién llega primero.

En cambio, las inteligencias expertas tienen aplicaciones más concretas y potencialmente más beneficiosas. Dario Amodei, CEO de Anthropic, sostiene que la IA podría permitir resolver en cinco o diez años problemas científicos que, de otro modo, habrían requerido un siglo de investigación. Eso sí me parece realmente transformador.

—Mencionabas recién a empresas como Anthropic, Meta y OpenAI. ¿Cómo ves hoy esa competencia y cuáles son las principales limitaciones tecnológicas?

—No veo señales de que esto vaya a detenerse. Las grandes compañías siguen compitiendo agresivamente. Anthropic presentó recientemente un modelo experimental muy avanzado que, según la propia empresa, es capaz de interactuar con sistemas complejos de formas inéditas. Incluso tomaron precauciones especiales para alertar a otras compañías sobre ciertos riesgos potenciales. Es fascinante y, al mismo tiempo, un poco inquietante.

—Hubo expertos que incluso llegaron a plantear que parecía consciente.

—Ahí suele haber una confusión. Estos sistemas están entrenados con enormes cantidades de información producida por humanos. Cuando parecen mentir, manipular o defenderse, en realidad están reproduciendo patrones de comportamiento que encontraron durante el entrenamiento porque resultaron efectivos en determinados contextos.

No significa que tengan conciencia propia. La tecnología actual no permite eso.Lo que sí ocurre es que estamos recién al comienzo de este proceso. Hoy existen limitaciones importantes, especialmente en términos de energía y capacidad de cómputo. Las grandes compañías están invirtiendo miles de millones de dólares en infraestructura y centros de datos porque necesitan sostener este crecimiento.

Históricamente, la tecnología siempre encontró soluciones a sus cuellos de botella. Así como hoy dominan las arquitecturas Transformer, probablemente aparezcan nuevas formas de procesamiento mucho más eficientes. Si uno mira apenas seis meses hacia atrás, muchas de las capacidades actuales parecían imposibles. Por eso creo que seguirá ocurriendo lo mismo: aparecerán límites, se superarán y volverán a surgir nuevos desafíos.

—Una de las principales preocupaciones es el empleo. ¿Cómo estás viendo ese impacto?

—Vengo del sector tecnológico y lo que observamos es una enorme capacidad para ganar eficiencia. Podemos hacer las mismas tareas mucho más rápido, con menos esfuerzo y, en algunos casos, con menos personas. También podemos hacer cosas que antes directamente no eran viables.

Por ejemplo, en el sistema financiero los bancos suelen trabajar con plataformas muy grandes y complejas. Adaptarlas a nuevas regulaciones o productos puede llevar meses. Con inteligencia artificial es posible analizar sistemas completos, documentarlos, identificar impactos cruzados, generar casos de prueba y acelerar enormemente el trabajo. Procesos que antes demandaban seis meses pueden resolverse en dos semanas. Eso inevitablemente modifica la necesidad de recursos humanos.

—Desde tu trabajo como consultor, ¿qué nivel de adopción institucional estás viendo en Argentina?

—Lo primero que veo es mucho FOMO. Y también creo que la inteligencia artificial debe entenderse menos como una cuestión tecnológica y más como un proceso de transformación cultural. No se trata simplemente de incorporar una herramienta. Se trata de cambiar la forma de trabajar.

En las empresas están ocurriendo dos fenómenos simultáneos. Por un lado, los equipos operativos adoptan rápidamente herramientas de IA para resolver problemas cotidianos. Eso tiene ventajas porque acelera la innovación, pero también riesgos asociados a la seguridad, la gestión del conocimiento y la escalabilidad.

Por otro lado, los niveles directivos todavía están construyendo estrategias más amplias. En tecnología ya resulta muy difícil trabajar sin inteligencia artificial. Desarrollar software, hacer pruebas o implementar soluciones sin estas herramientas se vuelve cada vez menos eficiente. Pero la transformación real requiere liderazgo. Los niveles ejecutivos tienen que comprender lo que está ocurriendo, generar cultura, asignar presupuesto y construir proyectos sostenibles en el tiempo.

Por eso la adopción tiene que darse en ambos sentidos: desde abajo hacia arriba, impulsada por quienes necesitan resolver problemas concretos, y desde arriba hacia abajo, promovida por líderes que entiendan el impacto estratégico de esta tecnología. Y ambas dinámicas ya están ocurriendo en Argentina. A pesar de la velocidad con la que avanza la inteligencia artificial, la adopción en el país está avanzando a muy buen ritmo.