Niños y adolescentes deberían dejar de usar esta inteligencia artificial de inmediato
Un estudio reveló que la inteligencia artificial de Gemini podría ser perjudicial para los jóvenes. ¿Cuál es el motivo?
Un estudio reveló que la inteligencia artificial de Gemini puede ser contraproducente. Foto: Archivo MDZ
El resultado de un estudio generó polémica tras advertir que los adolescentes no deberían utilizar una inteligencia artificial en específico. Se trata de Google Gemini, el sistema de IA conversacional de la compañía estadounidense. De qué se trata y cuáles son los riesgos.
El informe elaborado por Common Sense Media, una organización sin fines de lucro que desde hace años se dedica a analizar el impacto de los contenidos digitales en niños y adolescentes. En este sentido, la preocupación principal es que, a pesar de tener una versión “adaptada” para menores, el chatbot de Gemini se comporta prácticamente igual que con los adultos. Según la evaluación, esta inteligencia artificial puede exponer a los más jóvenes a material inapropiado o riesgoso, desde conversaciones vinculadas al consumo de alcohol y drogas hasta interacciones con connotaciones sexuales. Además, cuestionaron que el sistema brinde consejos de salud mental que no siempre resultan seguros ni están preparados para detectar situaciones críticas.
Los riesgos de esta inteligencia artificial
El informe detalla también que, si bien Gemini contesta preguntas cotidianas y sencillas, falla rápidamente cuando las charlas se vuelven más largas o sutiles, características propias del lenguaje adolescente. Es por esta razón que desde Common Sense Media, recomiendan que los menores de 18 eviten esta plataforma y fija pautas de uso estrictas: prohibición total para chicos menores de 5 años, supervisión obligatoria para los de entre 6 y 12, y uso limitado a tareas escolares o creativas en el caso de los de 13 a 17. Eso sí, nunca para apoyo emocional o acompañamiento psicológico.
Por su parte, Google salió a defender su inteligencia artificial, asegurando que Gemini cuenta con políticas de seguridad diseñadas especialmente para menores y que la compañía consulta a expertos externos de forma constante para reforzar las protecciones. Sin embargo, reconocieron que “algunas respuestas no funcionan como deberían” y confirmaron que en las últimas semanas se sumaron nuevas salvaguardas para corregirlo.
