Yampolskiy, experto en seguridad: “Imaginar que los humanos controlen una IA es como imaginar que una hormiga controle el resultado de un partido”

El científico informático Roman V. Yampolskiy, uno de los pioneros en el campo de la seguridad de la inteligencia artificial, lleva más de una década advirtiendo sobre un escenario inquietante: que los seres humanos podrían no ser capaces de controlar sistemas de IA superinteligentes. Para ilustrarlo, ha recurrido a una metáfora contundente: imaginar ese control “es un poco como imaginar que una hormiga puede controlar el resultado de un partido de fútbol americano de la NFL que se juega a su alrededor”.

Nacido en Riga, Letonia, Yampolskiy es profesor en la Universidad de Louisville, donde fundó y dirige desde 2012 el Laboratorio de Ciberseguridad en el Departamento de Ingeniería Informática y Ciencias de la Computación. Obtuvo su doctorado en 2008 en la Universidad de Buffalo y desde entonces ha centrado su carrera en comprender y mitigar los riesgos asociados a la inteligencia artificial avanzada.

Un pionero en seguridad de la IA

Yampolskiy es considerado uno de los primeros investigadores en seguridad de la IA y se le atribuye haber acuñado el propio término en 2011. Su trabajo se ha centrado en un problema clave: cómo garantizar que sistemas potencialmente más inteligentes que los humanos permanezcan bajo control.

Entre sus propuestas figura la idea de “encajonar” la inteligencia artificial para limitar su capacidad de actuar sin supervisión. También ha planteado la introducción de “talones de Aquiles” en sistemas peligrosos, como impedir que puedan modificar su propio código fuente. Según el investigador, aplicar una “mentalidad de seguridad” es esencial para anticipar fallos y consecuencias imprevistas.

Sin embargo, el científico ha reconocido que no existe evidencia de una solución definitiva al llamado “problema del control de la IA”. Por ello, ha llegado a proponer una pausa en el desarrollo de sistemas avanzados y se sumó a una carta abierta firmada por expertos como Yoshua Bengio y Stuart Russell para frenar experimentos gigantes de inteligencia artificial.

Predicciones inquietantes

Las advertencias de Yampolskiy no se limitan al control técnico. En una entrevista en el Lex Fridman Podcast, conducido por el estadounidense Lex Fridman, el investigador afirmó que la probabilidad de que la IA conduzca a la extinción humana podría alcanzar el 99,9 % en los próximos cien años.

También ha alertado sobre su impacto económico, señalando que la inteligencia artificial podría dejar al 99 % de los trabajadores desempleados para 2030.

El estudio de la inteligencia como disciplina

Más allá de la seguridad, Yampolskiy ha impulsado una nueva área académica: la “intelectología”, creada en 2015 para estudiar las formas y límites de la inteligencia. Desde esta perspectiva, la inteligencia artificial es solo una parte de un fenómeno más amplio.

Asimismo, ha trabajado en la teoría de la completitud de la IA, utilizando como referencia la prueba de Turing como ejemplo de evaluación de la capacidad intelectual de las máquinas.

Una voz influyente

Además de su labor académica, Yampolskiy ha sido asesor de investigación del Machine Intelligence Research Institute y miembro de seguridad de IA del Foresight Institute, consolidando su papel como una de las voces más influyentes en el debate sobre el futuro de la inteligencia artificial.

Sus advertencias, a medio camino entre la investigación técnica y la reflexión filosófica, plantean una cuestión fundamental: si la humanidad está creando una tecnología cuyo poder podría superar su propia capacidad de control. Y, como sugiere su célebre analogía, puede que la diferencia de inteligencia sea tan grande que el resultado ya no dependa de nosotros.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.