Meta AI: Nuevas alertas para padres ante mensajes de riesgo en Instagram y Facebook
La compañía tecnológica notificará a los adultos responsables si los adolescentes expresan ideas de autolesión en sus chats gracias a Meta AI.
Meta AI: control parental para evitar suicidios en menores.
ShutterstockMeta AI anunció la implementación de un sistema para notificar a los tutores cuando los jóvenes manifiesten señales de angustia. De esta manera, el control parental recibe una actualización clave para detectar conductas de riesgo de forma temprana en los chats interactivos.
Detección de mensajes de riesgo en tiempo real para Instagram y Facebook
La nueva función opera mediante el análisis de las conversaciones que los adolescentes mantienen con el asistente conversacional Meta AI. Cuando el sistema detecta expresiones vinculadas a la autolesión o al suicidio, emite un aviso a los padres que tengan activada la supervisión en la aplicación de fotos. Para evitar falsas alarmas, la firma tecnológica dispuso que un equipo humano revise de forma manual aquellos mensajes que resulten ambiguos antes de enviar la alerta.
-
Te puede interesar
Las nuevas Meta Glasses combinan anteojos con inteligencia artificial
El desarrollo de este software contó con la participación de más de 75 profesionales clínicos especializados en salud mental juvenil. La corporación también trabaja en un mecanismo para dar aviso directo a los servicios de emergencia en casos de peligro inminente. Esta medida se suma a las acciones preventivas que la empresa ya realiza en su red social tradicional Facebook y en sus plataformas de mensajería instantánea.
Configuración de privacidad y limitaciones de uso
La protección de los usuarios menores de edad se gestiona mediante la asignación automática de un perfil para mayores de 13 años. Bajo esta modalidad, el asistente Meta AI rechaza de manera automática las solicitudes sobre temáticas sensibles o inapropiadas para la edad de los usuarios. Además, los responsables legales pueden aplicar un filtro de contenido todavía más restrictivo a través de las opciones de configuración de cada cuenta individual.
Las notificaciones de emergencia por el uso de Meta AI se encuentran activas en una primera etapa para los usuarios de Estados Unidos, el Reino Unido, Australia y Canadá. La corporación tecnológica planea expandir esta herramienta de supervisión al resto de los países durante el transcurso de este año. La integración de estas funciones busca que las interacciones en Instagram y en el resto de los servicios de la firma se realicen bajo un marco de cuidado permanente y acompañamiento familiar.