Tecnología y humanidad

Expertos advierten sobre "el lado oscuro" de la inteligencia artificial

Un grupo de expertos de diversas naciones elaboró un informe sobre los peligros de la IA. Para evitar daños mayores, pretende imponer tres principios no caer en la "tiranía de la técnica".

MDZ Mundo
MDZ Mundo viernes, 7 de abril de 2023 · 07:19 hs
Expertos advierten sobre "el lado oscuro" de la inteligencia artificial
Inteligencia artificial La IA debe jugar a favor de la humanidad. Foto: Efe.

Es un equipo internacional de especialistas en ciencias sociales y humanidades evaluó qué puede suceder a futuro con la implementación de la inteligencia artificial en nuestra vida diaria. 

Según los expertos, hay que analizar cómo el juicio y los valores de la humanidad, suelen quedar subordinados ante el mandato de la evidente eficiencia de la inteligencia artificial (IA)

El informe tiene por título "Un estudio arroja luz sobre el lado oscuro de la IA" y revela que, al respecto, los costos pueden ser altos, sin bien están claros los beneficios de usar esta tecnología

Apuntanto a este "lado oscuro", indica que cuando la IA se equivoca, lo hace "de manera bastante espectacular".

Al respecto Vern Glaser, docente de la Escuela de Negocios de la Universidad de Alberta (Canadá), ilustra: "si no trata activamente de pensar en las implicaciones de valor, terminará creando malos resultados", el uso de robots

Algunos resultados desastrosos 

El trabajo fue publicado en MIT Sloan Management Review y, en él, se refiere que hay "varios casos reales de resultados desastrosos de la implementación de la IA. Por ejemplo, cuando en el 2016 se introdujo el chatbot Tay en Twitter, se eliminó en las siguientes 24 horas debido a que los troles le enseñaron a desarrollar un lenguaje racista". 

Y continúa: "si bien la IA promete brindar enormes beneficios a la sociedad, ahora también estamos comenzando a ver su parte más oscura, manifestaron los analistas. Más recientemente, algunos expertos, como Lawrence Martin, señalan las posibilidades distópicas de la IA, incluidas las armas que pueden disparar sin supervisión humana, los ataques cibernéticos, las falsificaciones y las campañas de desinformación".

Para echar mano de fundamentos teóricos, el equipo de especialistas recurrió a la definición de "técnica" del filósofo francés Jacques Ellul, dada en su libro 'La sociedad tecnológica', de 1954.

En él, Ellul revela que cual cada campo de la actividad humana está determinado por los imperativos de eficiencia y productividad. "Ellul fue muy profético", asegura el grupo.

"Su argumento es que cuando pasas por este proceso de técnica, inherentemente estás eliminando valores y creando este mundo mecánico donde tus valores esencialmente se reducen a la eficiencia", ilustra.

Tres principios esenciales 

Los científicos proponen tres principios: 

1. Reconocer que debido a que los algoritmos son matemáticos, se basan en representaciones digitales de fenómenos reales. Un ejemplo de ello, es que las redes sociales miden la amistad por cuántos amigos tiene un usuario o por la cantidad de 'me gusta' que reciben de sus amigos en las publicaciones. "¿Es eso realmente una medida de amistad?", se cuestionan.

2- Los diseñadores de IA deberían insertar estratégicamente intervenciones humanas en la toma de decisiones algorítmicas y crear sistemas evaluativos que tengan en cuenta múltiples valores.

3- Por último, la IA que encarna los valores humanos requiere una supervisión vigilante y continua para evitar que surja su feo potencial

"Los analistas señalan que la IA es simplemente un reflejo de quiénes somos, en nuestro mejor y peor momento. 'Sin una buena y dura mirada en el espejo, este último podría tomar el relevo', advirtieron. 'Queremos asegurarnos de que entendemos lo que está pasando, para que la IA no nos controle', concluyeron, según aporta Rt. 

Sloanreview, UAlberta.ca, Rt, ComputerHoy, Youtube

Archivado en