Creó una IA para curar enfermedades pero ésta cambió y es un peligro para la humanidad

Un experto logró desarrollar una inteligencia artificial con el objetivo de ayudar a la humanidad, pero ésta cambió sus objetivos y esto podría ser la perdición para la humanidad. 

Fabio Urbina es un experto en inteligencia artificial que crea modelos de aprendizaje automático para la farmacéutica Collaborations Pahrmaceutics, una compañía que busca medicamentos para enfermedades poco comunes. 

Con este objetivo, Fabio desarrolló una IA que estudiaba miles de moléculas tóxicas para predecir si las nuevas drogas diseñadas para curar las enfermedades, son o no tóxicas. Este mecanismo es de suma importancia ya que los científicos desechan las moléculas tóxicas y se centran en las que no lo son. 

Todo marchaba bien hasta que Urbina quiso ver que ocurría si la poderosa herramienta era manipulada con fines perversos. Lo que descubrió fue aterrador y afirma que no puede controlarla. 

El invento de Urbina no solo detecta moléculas tóxicas ahora puede crear nuevos compuestos. La IA trabaja mediante un sistema de puntuación, si crea una molécula tóxica recibe una puntuación baja, si no es tóxica, gana puntos. 

Urbina se preguntó: ¿qué ocurriría si un usuario malintencionado cambiara esos parámetros? El resultado lo dejó sin palabras, la inteligencia artificial creó 40 mil armas químicas letales en solo 6 horas. 

El investigador presentó sus resultados en una conferencia para el control de armas químicas, donde alertó sobre los peligros de que su IA "caiga en manos equivocadas". 

La buena noticia es que una gran parte de las armas químicas no son viables, aunque algunas moléculas que la IA identificó son muy similares al VX. 

El VX es el agente más peligroso que existe, una mínima cantidad hace que una persona que lo respire se le paralicen sus pulmones lo que genera una muerte por ahogamiento en un minuto. 

Otro dato perturbador es que Urbina localizó moléculas exactas a armas químicas ya conocidas sin que la IA las conociera. 

Pero lo peor es que estos resultados se pueden obtener con un software gratuito de código abierto que está disponible para todo el mundo. Sin embargo, una cosa crearla y otra sintetizarla, no cualquiera puede sintetizarlas, pero si un gobierno o una organización militar. 

Urbina dijo estar a favor de la ciencia abierta, pero si hay armas químicas de por medio, la información no puede estar en manos de todo el mundo.