Tres adolescentes demandan a Elon Musk: la IA generó imágenes sexuales

Una IA generó imágenes sexuales de menores. Sus familias fueron a la justicia. Tres adolescentes de Tennessee, dos de ellas menores de edad, presentaron una denuncia ante un tribunal federal del Distrito Norte de California contra xAI, la empresa de inteligencia artificial de Elon Musk. La acusación es grave: el sistema de IA llamado Grok habría generado imágenes y videos falsos de ellas desnudas, que luego circularon como pornografía infantil.

Lo que dice la denuncia y por qué importa

El documento presentado ante el tribunal afirma que xAI y su fundador habrían identificado una oportunidad comercial a partir de la explotación sexual de personas reales, incluidos menores. La denuncia sostiene que la empresa sabía que el sistema producía ese tipo de contenido, incluso con imágenes de menores, y aun así lo lanzó al público sin restricciones suficientes.

Elon Musk-Luna - Interna 2

Grok es el sistema de IA de xAI que genera imágenes a partir de descripciones de texto. El portal de tecnología Wired ya había señalado a Grok como uno de los sistemas más permisivos en la generación de contenido explícito. Las alertas existían antes de esta denuncia, y no eran desconocidas en el sector.

En enero de este año, Elon Musk declaró públicamente que no tenía conocimiento de ninguna imagen de menores generada por Grok. Tras la presentación de la denuncia y la presión pública, xAI tomó medidas para regular la generación de contenido a través de su plataforma. Los cambios llegaron después del escándalo, no antes.

Grok, la inteligencia artificial gratuita de X

El caso llega en un momento en que los gobiernos de todo el mundo debaten con urgencia cómo regular la inteligencia artificial. Si el tribunal falla a favor de las demandantes, el precedente podría obligar a las empresas de IA a responder legalmente por el contenido que sus sistemas generan, aunque ese contenido lo haya pedido un tercero.