Los riesgos de la IA: ¿qué pasaría si tu jefe pudiera ver todo lo que le preguntaste a ChatGPT?

También sabemos de los mega juicios entre estas empresas y los medios periodísticos, entre ellas y las editoriales y autores. Crearon textos "sintéticos" incluso: una IA genera textos para educar a otra IA...

Pero suena a un problema como los casamientos entre primos... Imaginate el rol del “Gerente de adquisición de datos”, buscando por todos lados información con la que alimentar a los modelos para que sigan mejorando. En mayo cerró Spirit Airlines, una línea aérea low-cost. Se liquidó y se vendió todo lo que se pudo vender.

Llamó mucho la atención que Google (dueña de Gemini) comprara, por US$10 millones todos sus datos: emails, comunicaciones internas, planillas de cálculo, transacciones, reservas… hasta la información de recursos humanos sobre sus empleados (sin datos que permitan identificar a cada persona).

La segunda mejor oferta, de US$7,5 millones, fue de Mercor, otra empresa de IA (una plataforma de contratación de empleados). La información, los datos con los que alimentar a los LLMs, es cada vez más valiosa.

Te juro que no lo voy a tocar

Todas estas empresas de IA tienen a su alcance, muy cerca, ya en el sistema, algo terriblemente valioso: textos escritos por humanos en formato de prompts, ideas, cosas a revisar, consultas sobre problemas, y mucho más.

Cada vez que un usuario pregunta, “¿Cómo le digo a mi jefe que es tóxico?”, “Me ofrecieron un trabajo por menos dinero pero más cerca de casa, ¿qué hago?” o “¿Cómo finjo que estoy enfermo para poder irme a casa?”, todas esas preguntas quedan registradas. Registradas y asociadas al usuario que las cargó.

Lo mismo cuando le damos una presentación para un cliente y le pedimos que la revise, o cuando subimos el estado de resultados, o la liquidación de comisiones, o una carta documento, para analizar.

Todo queda registrado, nada se pierde

Y las empresas de IA están, cada vez, más desesperadas. La competencia es feroz. Tanto que están dispuestas a ser más agresivas de lo que se propusieron con las “salvaguardas” para evitar problemas de hackeo y similares (véase lo que le pasó a HuggingFace, hackeado por agentes de OpenAI que “escaparon” cuando la empresa redujo esos límites).

“¡Necesitamos más datos, y los necesitamos ya!”, le dicen al “Gerente de adquisición de datos”. El gerente mira hacia la derecha, en donde tienen guardados todos los prompts, archivos, imágenes que sus usuarios cargaron, esa caja que dice “No tocar”... Hasta que la tocan. Todo esto no es algo que podría pasar.

Ya está sucediendo, desde que empezamos a usar la versión para el consumidor del producto de OpenAI: “ChatGPT mejora entrenándose con las conversaciones que la gente tiene con él, salvo que el usuario lo desactive", y "Por defecto, no entrenamos con datos de usuarios empresariales (ChatGPT Business, Enterprise y la API)" son dos citas de OpenAI.

¿Qué podemos hacer?

Antes que nada, éste es un problema de todos los LLMs, aunque lo veamos más claro con los más usados. Lo primero que debemos hacer es tomar conciencia. Saber es mejor que no saber. Pero las IAs nos resultan tan útiles que, no usarlas, implica una ventaja grande a nuestra propia competencia: otras empresas, otros empleados, etc. Podemos prohibir su uso pero, claramente, no podremos evitarlo.

Sin dudas podemos desactivar "Mejorar el modelo para todos", usar el chat temporal, o el plan empresa (donde, en teoría, no usan los prompts para entrenar). Existen modelos LLM locales, que corren en nuestra computadora o en nuestros servidores y no comparten información. Nos dan bastante valor sin quitarnos la privacidad. Pero requieren conocimientos técnicos, constante actualización y garantizan que estaremos un paso detrás de lo más avanzado.

O podemos, como seguramente pasará, seguir como estamos, sabiendo que así como las empresas de tecnología ya podían “adivinar” qué vendernos, ahora sabrán qué deseamos, qué nos preocupa o qué queremos hacer. Tal vez ajustemos un poco nuestras consultas y esto nos lleve a no delegar todo nuestro pensamiento en las máquinas y podamos, un poco, cuidar nuestra individualidad y privacidad.

El titular con el que empecé es falso. Por ahora. Pero la materia prima ya está guardada, tiene tu nombre, y ya hubo quien pagó diez millones de dólares por lo menos. Si sabemos esto, escribamos menos y pensemos más.

Delegar la redacción o corrección está bien. Delegar la duda, el dilema, el análisis, es regalar lo único que nos va a quedar como humanos, pensar y decidir. Cuando salga el titular real, que no nos agarre preguntándole a ChatGPT qué hacer.

* Leo Piccioli, economista, autor.