Tecnología
El ‘padrino de la IA’ advierte de nuevo sobre el fin de la humanidad: “Mucha gente está preocupada”
Yoshua Bengio pide a las corporaciones que bajen el ritmo para evitar consecuencias “potencialmente catastróficas” mientras Trump acelera las inversiones.
Estos últimos años y ante el gran avance de la tecnología relacionada con la inteligencia artificial, uno de los llamados ‘padrinos de la IA’ ha estado pidiendo a las grandes empresas y corporaciones especializadas en desarrollo de inteligencia artificial que bajen el ritmo en sus avances y que centren sus esfuerzos en seguridad, por temor a que estos últimos avances puedan reemplazar de forma rápida y peligrosa la autonomía humana. Tanto es así, que Yoshua Bengio cree que las máquinas de IA llevan camino de volverse “mucho más inteligentes que nosotros” con sus propios objetivos de protección y autoconservación.
Los peligros de una IA demasiado evolucionada
Bengio, profesor de la Universidad de Montreal, ganó el Premio AM Turing 2018, considerado “el Premio Nobel de la informática”, junto con Geoffrey Hinton y Yann LeCun por su trabajo pionero en aprendizaje profundo. Recientemente, el propio Bengio aseguró al Wall Street Journal que los productos de IA podrían desarrollar la capacidad de engañar a sus usuarios a favor de sus propios objetivos, “exactamente” como el superordenador antagonista de ’2001: Una odisea del espacio’ de Stanley Kubrick.
“Si construimos máquinas mucho más inteligentes que nosotros y con sus propios objetivos de conservación, es peligroso”, declaró Bengio. “Es como crear un competidor de la humanidad más inteligente que nosotros. Y podrían influir en la gente mediante la persuasión, mediante amenazas, mediante la manipulación de la opinión pública”, añadió.
En este sentido, Bengio ofreció un ejemplo de una máquina de inteligencia artificial que apoya la creación de un virus que podría generar nuevas pandemias en un ataque terrorista global: “Lo que pasa con eventos catastróficos como la extinción, e incluso eventos menos radicales que siguen siendo catastróficos como la destrucción de nuestras democracias, es que son tan malos que incluso si hubiera solo una probabilidad del 1 por ciento de que sucedieran, no es aceptable”, dijo.
Tanto es así, que sugirió que “terceros independientes” se encarguen de revisar los mecanismos de seguridad internos de las empresas de IA y que las empresas “exijan pruebas de que los sistemas de IA que están implementando o utilizando son confiables”. Bengio no solo se limita a dar un toque de atención a las multinacionales; también cree que los gobiernos deben promover acciones de control y seguridad:
“Lo mismo que deberían exigir los gobiernos”, dijo. “Pero los mercados pueden impulsar a las empresas a actuar correctamente si comprenden que existen muchas incógnitas y riesgos potencialmente catastróficos”. De lo contrario, según Bengio, podrían surgir riesgos importantes dentro de cinco a diez años, a pesar de que marca un límite de solo tres años para que empecemos a notar los efectos de una IA totalmente autónoma.
Sin embargo, la administración de Donald Trump parece que hace oídos sordos a todas estas advertencias y ya está impulsando más que nunca el desarrollo de IA. Tanto es así, que en julio el presidente de Estados Unidos firmó una orden ejecutiva como parte de una estrategia de todo el gobierno para “lograr el dominio global en inteligencia artificial”. Especialmente a través de modelos de lenguaje de gran escala como ChatGPT de OpenAI o Alexa de Amazon.
Y es que poco después de asumir el cargo, Trump anunció planes para una empresa conjunta de 500.000 millones de dólares con OpenAI, Softbank y Oracle para infraestructuras de IA. También promovió los planes del fabricante de chips NVIDIA para construir supercomputadoras de IA en Estados Unidos y anunció una inversión de 92.000 millones de dólares para infraestructuras de IA y energía de empresas como Blackstone, Google y FirstEnergy.
Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.
¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.