Facebook desactivó una función discriminatoria por la que fue acusado de racismo

La compañía Facebook anunció que ya desactivó la función que generó la polémica y las acusaciones de racismo y discriminación. ¿De qué se trata? Del software de reconocimiento que recomendaba videos de primates luego de ver contenidos en los que aparecían personas de color negro. A continuación, todos los detalles.

Racismo en Facebook: ¿qué pasó en la famosa red social?

La noticia se dio a conocer de forma inmediata, apenas los usuarios comenzaron a notar la particularidad que se hizo presente en la histórica red social.

En lo que es la reproducción de videos, el mecanismo de Inteligencia Artificial (IA) de la compañía interviene para recomendar contenido similar al que se estaba viendo.

La polémica se disparó cuando dicho mecanismo, que funciona a través de un software de reconocimiento, relacionó videos de hombres de color negro con el de primates.

En concreto, quienes alertaron acerca de este hecho expresaron que el video principal era el de una lucha entre estas personas y policías. Luego, aparecía la recomendación discriminatoria: “¿Seguir viendo videos sobre primates?”.
 

¿Cuál fue la respuesta de Facebook ante estos hechos?

Una vez que se difundieron estos hechos, lo primero que se dio a conocer fue que Facebook había decidido desactivar el sistema de Inteligencia Artificial, al menos hasta identificar qué fue lo que falló.

El Confidencial informa que un portavoz de la compañía se expresó en el medio The Verge. Allí, el mismo indicó que se trata de un “error inaceptable” y pidió disculpas en nombre de la empresa a todas aquellas personas que recibieron las denominadas “recomendaciones ofensivas”.

En cuanto al software que brinda nuevas opciones de videos en base a los ya vistos, se aclaró que no solo buscan comprender lo ocurrido, sino que ante todo pretenden que no vuelva a pasar.

“Sabemos que no es perfecta”, dijeron desde Facebook en relación al programa de IA, al mismo tiempo que agregaron que hay muchos “avances que hacer”.
 

Inteligencia Artificial y racismo: los antecedentes

El Confidencial también recuerda que no es la primera vez que ocurre algo como esto. Ya en 2015, el algoritmo de Google Fotos había generado algo sumamente similar, cuando etiquetó a dos afroamericanos con la palabra “gorila”.

De acuerdo con el portal, estos hechos son la manifestación de algo más grande que se conoce como “racismo tecnológico”. En pocas palabras, el mismo hace referencia a la dificultad que tienen los mecanismos de Inteligencia Artificial al momento de trabajar con imágenes de personas de piel oscura.

¿Qué opinas? ¿Estabas al tanto de lo ocurrido con Facebook y su función discriminatoria?