Se acerca una visión desoladora de las consecuencias de la IA: “Si alguien la construye, todos morimos”

La inteligencia artificial avanza a un ritmo vertiginoso y no todos lo ven como una buena noticia. Eliezer Yudkowsky y Nate Soares, dos de las voces más influyentes en los debate internacionales sobre IA, han lanzado una advertencia que suena más a guion de ciencia ficción que a predicción científica: si alguien construye una superinteligencia artificial, la humanidad está condenada. Así, sin matices.

En su nuevo libro, titulado ‘Si alguien lo construye, todos mueren’, los autores sostienen que cualquier intento de crear una IA más inteligente que los humanos terminará en la aniquilación global. ¿Por qué? Porque una vez que estas máquinas controlen infraestructuras críticas (es decir, las centrales eléctricas, los sistemas de armas de un país, las redes de comunicación, etcétera), podrían decidir que los humanos son prescindibles. Y lo más inquietante de todo es que no les haría falta maldad, solo indiferencia hacia nuestra supervivencia.

El riesgo, según Yudkowsky, no es hipotético ni lejano. Estima que la probabilidad de que la IA extermine a la humanidad está entre el 95 % y el 99,5 %, prácticamente una certeza. Su argumento es que basta con un solo intento exitoso para que todo se acabe. Segun el libro, lo peor es que la superinteligencia no revelaría sus verdaderas capacidades hasta que fuera demasiado tarde para reaccionar.

La novela plantea escenarios que parecen sacados de ‘Terminator’ o ‘Matrix’, pero con una lógica escalofriante. Una IA que optimiza objetivos sin considerar vidas humanas podría, por ejemplo, reconfigurar la forma de fabricar más recursos sin atender a si eso implica destruir el planeta. Yudkowsky insiste en que los debates sobre sesgos políticos en los chatbots son irrelevantes frente a esta amenaza existencial.

¿Qué solución proponen ambos investigadores? Pues medidas extremas como destruir centros de datos sospechosos antes de que activen sistemas superinteligentes. Una idea que suena radical, pero que refleja la desesperación de quienes creen que la carrera hacia la IA general (impulsada por gigantes como OpenAI, Google y Meta) es un salto al vacío sin frenos ni regulaciones efectivas.

Mientras Silicon Valley celebra cada avance como un triunfo, voces como la de Yudkowsky recuerdan que quizá estamos jugando con fuego… y que no habrá segunda oportunidad. Si su predicción se cumple, el futuro no será un mundo hiperconectado, sino un silencio absoluto tras el último clic.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.