BeTech: noticias de tecnología

IA

Este es Norman, la primera IA psicópata creada por científicos

Este es Norman, la primera IA psicópata creada por científicos

Someter a una Inteligencia Artificial a la ultraviolencia para tener los mismos resultados que en una persona.

Ed Gein, Hannibal Lecter, Se7en, Jack el Destripador… A la sociedad les fascina los asesinos en serie, ya sean reales o inventados, las historias de psicópatas, serial killers. Estamos bombardeados por películas, libros y series sobre ellos. Y en todas surge la misma idea: ¿el psicópata nace o se hace? ¿Tiene ya una predisposición a matar o es un producto del sistema, de la sociedad en la que vive? ¿Se puede entrenar y condicionar a una mente para que mate desde pequeña? Y ahora traslademos ese concepto a un terreno inexplorado en el Cine o la TV: ¿Se puede entrenar a una Inteligencia Artificial para convertirla en un psicópata?

 

Norman, la primera IA psicópata

IAs que se vuelven locas hemos visto muchas en el Cine -la Skynet de Terminator, Hal-9000 de 2001. Pero en ninguna hemos visto algo como lo que unos científicos del prestigioso MIT americano (donde estudian las personas más inteligentes del mundo, básicamente) han llevado a cabo: un estudio en el que los investigadores han buscado entrenar una inteligencia artificial con “un poquito de la vieja ultraviolenciaque diría el Alex de la Naranja Mecánica. ¿Con qué fin? Para descubrir si podían volverla psicopática. Y lo grave es que han tenido éxito. Así es Norman, la primera IA psicópata del mundo.

Norman

Partiendo del hecho de que los datos usados para enseñar a una IA el aprendizaje algorítmico automático pueden “influenciar significativamente su comportamiento”, los investigadores decidieron probar a ‘educar’ una inteligencia artificial exponiéndola “a los rincones más oscuros de Reddit”. Y aunque no quieren entrar en detalles más allá de que “no se utilizaron imágenes de una persona real muriendo”, es de suponer por los resultados que Norman se dedicó a visionar imágenes de fuerte contenido.

El test de Rorschach

Publicado en 1921, el Test de Rorschach se usa para evaluar la personalidad y básicamente consiste en una serie de 10 láminas que presentan manchas de tinta, las cuales se caracterizan por su ambigüedad y falta de estructuración. El psicólogo pide al sujeto que diga qué podrían ser las imágenes que ve en las manchas, como cuando uno identifica cosas en las nubes o en las brasas. A partir de sus respuestas, el especialista puede establecer o contrastar hipótesis acerca del funcionamiento psíquico de la persona examinada.

Para certificar la validez o fracaso de su experimento, los investigadores del MIT aplicaron el test de Rorschach tanto a Norman como a una IA estándar que había aprendido con imágenes normales. Los resultados fueron increíbles:

- En la primera lámina, donde la IA ve a un grupo de pájaros posados sobre la rama de un árbol, Norman ve a un hombre siendo electrocutado y a punto de morir.

- En otra de las láminas del test, donde la IA normal ve una jarra con flores, Norman ve a un hombre siendo disparado mortalmente.

- En otra lámina, donde la IA normal ve una bonita escena de una pareja juntos de pie, Norman ve a una mujer embarazada caer desde un edificio

- En otra lámina, donde la IA normal ve a una persona sosteniendo un paraguas en el aire, Norman ve a un hombre siendo disparado mortalmente frente a su esposa gritando.

Según la investigación, la exposición constante a imágenes negativas y a un tipo de pensamiento depresivo ha motivado que la lógica de la empatía de Norman haya fallado al intentar activarse durante el test. ¿Qué prueba este terrorífico estudio? Que el aprendizaje mecánico puede verse fuertemente influenciado por su método de entrada, en este caso por los datos usados. No es tanto la culpa de los algoritmos sino de los datos que estos han recibido para usar.

Las láminas de Rorschach usadas: A la izquierda lo que Norman veía y a la derecha lo que la IA estándar veía

Y un último dato, ¿Por qué llamarlo Norman? Como un macabro homenaje a Norman Bates de Psicosis, uno de los psicópatas más conocidos de la historia del Cine. Ahora, puede que esto de entrenar IAs y volverlas psicópatas de miedo de cara a pensar en un futuro de 10-20 años, pero puede que también se haya descubierto un método para evitar precisamente esto, dado que la Robótica jugará un papel tan esencial en la sociedad a medio plazo tal y como los smartphones la juegan ahora.