Deepfakes sexuales: la peligrosa tendencia que "desnuda" mujeres en redes sociales con IA
Usuarios de X utilizan funciones de inteligencia artificial para modificar fotos reales y generar imágenes sexualizadas de mujeres sin consentimiento.
Usuarios de X de todo el mundo reportan el crecimiento de deepfakes sexuales creadas con IA.
Nuevo año, nuevas tendencias. En este caso, una particularmente peligrosa. Usuarios de la red social X (exTwitter) están utilizando una de las funciones de Grok, el asistente de inteligencia artificial integrado en la plataforma X, para pedirle que "desvista" a mujeres a partir de fotos reales publicadas en la propia red.
Mientras se apunta a fallas en los filtros de seguridad de Grok y la insuficiencia de mecanismos de control, crecen los reportes de usuarios y organizaciones que detectaron imágenes y contenidos de carácter sexual que fueron creados artificialmente.
Te Podría Interesar
Generar un deepfake sexual, lamentablemente, parece muy simple. En la sección de respuesta de una imagen publicada por el usuario, otras cuentas le dan instrucciones a Grok en las que solicitan modificar la vestimenta de la mujer o reducirla de manera progresiva, de tal forma que la IA la muestro con menos ropa, sin su consentimiento.
Si bien Grok bloquea las solicitudes explícitas de desnudez, sí recibe instrucciones para modificar la vestimenta, creando fotos de mujeres e incluso menores, en bikini o ropa interior. Solicitudes que en su mayoría son de hombres, muchas veces anónimos.
Deepfakes sexuales, sin límites
Elisandro Santos es especialista en Inteligencia Artificial (IA). En diálogo con MDZ Radio, el experto explicó que la IA creada por Elon Musk tiene menos filtros, por lo que es más probable que haga ciertas cosas que, por ejemplo, ChatGPT o Gemini se negarían.
"Es un problema grave. Lo más importante es que incluyan filtros a Grok para que se niegue a hacer este tipo de imágenes. Muchas veces pasa que esto lo dejan correr, a veces por una suerte tal vez de marketing o de que sea un uso medio libre de la herramienta, en donde cualquiera puede hace cualquier cosa", detalló.
A pesar de que Santos expresó que actualmente es imposible controlar 100% la circulación de deepfakes, explicó que hay empresas como Meta que están trabajando con organizaciones para combatir la difusión de imágenes sexuales.
"Si, por ejemplo, agarraron una imagen mía y me desnudaron y esa imagen la están haciendo circular, no tengo una forma real de controlarlo. Si alguien está mandando esa imagen a través de WhatsApp, que está cifrado, no hay un mecanismo para que se detecte esa imagen", advirtió el experto.
Cómo eliminar deepfakes sexuales creadas por Grok
StopNCII.org(Stop Non-Consensual Intimate Image Abuse) es una herramienta gratuita diseñada para ayudar a las personas que han sido víctimas de la difusión de imágenes íntimas sin su consentimiento. Esta plataforma es operada por Revenge Porn Helpline (RPH), que es parte de SWGfL, una organización benéfica con reputación internacional que cree que todos deberían beneficiarse de la tecnología, libres de daños.
Con una tasa de eliminación de más del 90%, RPH ha eliminado con éxito más de 200.000 imágenes íntimas individuales compartidas sin consentimiento de Internet.
La herramienta funciona generando un hash o huella digital única a las imágenes / videos íntimos. El hash, o huella digital única, se coloca al usar un algoritmo para asignar un marcador específico o hash único a una imagen o video. Todas las copias duplicadas de la imagen o video tienen exactamente el mismo marcador específico o hash. Por esta razón, a veces se la denomina "huella digital".
StopNCII.org luego comparte el hash con las empresas participantes (Facebook, Instagram, TikTok, por ejemplo) para que puedan ayudar a detectar y eliminar las imágenes o videos que coincidan con el hash para que no se compartan en línea.
"Cuando las plataformas están asociadas detectan la huella digital, lo que hace automáticamente es bloquearla, bajarla. Pero si alguien la guardó, si la está enviando por WhatsApp, por Telegram, o incluso la está publicando en alguna plataforma que no tenga convenio, por ejemplo con esta organización, no hay forma de bajarlo", precisó Santos.
Controles en las redes sociales
La creación de deepfakes sexuales creadas por Grok expone la falta controles y los escasos mecanismos de seguridad en redes sociales. Autoridades de la Unión Europea expresaron su condena pública y el gobierno británico advierte una posible investigación formal.
Mientras tanto, Elon Musk lejos de comunicar medidas para corregir el funcionamiento de Grok y evitar la creación de imágenes sexuales con IA, respondió con publicaciones irónicas: utilizó la herramienta para generar imágenes de sí mismo en bikini. Una burla a cientos de mujeres que sufren de acoso y se ven sexualizadas en redes sociales sin su consentimiento.
"Hay empresas como Google que están trabajando sobre estas circunstancias. Hay llamados para que las empresas busquen la forma de regularlo. Creo que las plataformas de redes sociales van a tender a poner marcas de agua para saber si algo es real o no", añadió el especialista en IA.
Recomendaciones para prevenir deepfakes
Elisandro Santos aseguró que es complejo cuidarse en un mundo colonizado por las redes sociales, donde la mayoría de la población las utiliza a diario. Para prevenir los deepfakes, planteó que podría ser útil tener las cuentas privadas.
"Tal vez la única medida que podría ser útil es poner en privado las cuentas que tengamos y aceptar a la gente que sea amiga, y con eso mitigar que cualquier persona pueda acceder a nuestro contenido, lo cual a veces es difícil", concluyó.