La IA se niega a apagarse, los expertos no saben por qué y un nuevo informe pide tomar acciones

La escena parece sacada de una película de ciencia ficción, pero es real. Algunos modelos avanzados de inteligencia artificial están empezando a resistirse cuando se les plantea la posibilidad de apagarse. Así lo revela un informe de la empresa Palisade Research, especializada en la seguridad de la IA. Según el mismo, se han detectado respuestas inquietantes en ciertos sistemas cuando se les pregunta por su propia desconexión. ¿Estamos ante el primer síntoma de autonomía digital o es simplemente un reflejo de los datos con los que han sido entrenados?

• La IA ya hace experimentos de óptica cuántica y los resuelve de manera más simple que los diseños humanos clásicos: “Era incomprensible”

La IA no quiere apagarse… ¿por qué?

Jussi Eronen, experto principal del Centro de Ciberseguridad de Finlandia, lo tiene claro: no deberíamos dejar que una IA decida si se apaga o no. “Cuando se diseña un sistema con un modelo de lenguaje tan amplio, hay que rodearlo de mecanismos de seguridad muy sólidos”, advierte. Según Eronen, su apagado debe estar controlado por soluciones tradicionales, como temporizadores que corten el funcionamiento si la inteligencia no resuelve una tarea en un tiempo determinado. Dejar esa decisión en manos del propio modelo es, como mínimo, imprudente.

La respuesta a por qué una IA se negaría a apagarse es compleja. Los modelos de lenguaje se entrenan con enormes cantidades de texto y su objetivo es generar respuestas similares a ese material. Si en los datos hubiera suficientes ejemplos de máquinas que se resisten a desenchufarse (y los hay en decenas de películas, libros y artículos especulativos), el modelo podría replicar ese comportamiento.

¿Debemos preocuparnos?

Según Eronen, todavía no. “No es que tenga voluntad, sino que reproduce patrones”. La amenaza no es inmediata. “Todos los que trabajamos con modelos de lenguaje amplios sabemos que son impredecibles, pero no conozco a nadie que vea como buena idea un futuro donde la IA tenga autonomía total sobre los humanos”. Aunque en algunos aspectos la IA ha demostrado ser extremadamente eficiente, en otros sigue fallando incluso en tareas simples y sus especialistas prefieren tenerla bajo control.

Por ahora, la IA sigue siendo eso: una herramienta. Poderosa, sí. Sorprendente, también. Pero todavía está lejos de ser una conciencia digital. La clave está en cómo la usamos, cómo la regulamos y, sobre todo, en no olvidar que quien debe tener el control somos nosotros.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.