Jon Hernández, divulgador de IA: “Lo peor ya está pasando, la información se está contagiando”

La inteligencia artificial se ha convertido en una de las herramientas tecnológicas más influyentes del momento. Millones de personas la utilizan a diario para resolver dudas, generar contenido o buscar información. Sin embargo, el divulgador de inteligencia artificial Jon Hernández advierte de un problema que, a su juicio, ya ha comenzado a manifestarse: la posible contaminación de la información que producen estos sistemas.

En uno de sus análisis recientes, Hernández describe un experimento con el que asegura haber demostrado algo inquietante. Según explica, en cuestión de días es posible lograr que una inteligencia artificial termine respondiendo con un mensaje determinado cuando los usuarios realizan ciertas preguntas. “Si te digo que en tan solo unos días puedo conseguir que una inteligencia artificial diga lo que yo quiera cuando le preguntes, probablemente pensarás que estoy exagerando”, señala.

El divulgador reconoce que, a primera vista, esta afirmación puede parecer exagerada o incluso un simple intento de llamar la atención. “Probablemente pensarás que esto suena a titular de clickbait, a mira qué listo que soy o a he pillado a ChatGPT en un problema”, comenta. Sin embargo, insiste en que su objetivo no es demostrar que la IA se equivoca ni ridiculizarla.

Para Hernández, el foco del debate debe situarse en algo más profundo: un problema estructural en la forma en que funcionan estos sistemas. “Este vídeo es muy importante porque no va de hacer la gracia, no va de quedar por encima de la IA, no va de ja, se ha equivocado”, explica. “Va de entender un problema estructural que ya está aquí”.

Diseñado para responder, no para verificar

Ese problema, sostiene, tiene que ver con la forma en que se generan las respuestas de los modelos de inteligencia artificial. Según Hernández, la información que producen puede verse “contaminada” si ciertas narrativas se repiten y se amplifican en el ecosistema digital.

“La información que recibimos de la inteligencia artificial puede contaminarse y, de hecho, ya se está contaminando”, advierte. No se trata simplemente de errores puntuales, como los que puede cometer cualquier persona, sino de un fenómeno más sistemático.

En su análisis, el divulgador explica que la cuestión no radica en que la IA se equivoque ocasionalmente, sino en que ciertos actores puedan empujar una narrativa hasta que termine apareciendo como una respuesta plausible. “Cuando digo contaminarse, no hablo de que la IA se equivoque como se equivoca un humano”, señala. “Hablo de algo mucho más frío, más sistemático”.

Según su planteamiento, si una narrativa se impulsa lo suficiente dentro del entorno digital, puede acabar apareciendo en las respuestas de la inteligencia artificial. “Alguien puede empujar una narrativa hasta que acabe pareciendo verdad. No porque sea verdad, sino porque el sistema está diseñado para responder y no para verificar”, afirma.

Esta reflexión conduce a una pregunta inevitable sobre la confianza que los usuarios depositan en estas herramientas. La inteligencia artificial se percibe a menudo como una fuente de información rápida y aparentemente objetiva, pero Hernández invita a replantear esa confianza. “¿Te puedes fiar de la inteligencia artificial?”, plantea. Su respuesta es clara: “Sinceramente, después de este experimento, yo me fío mucho menos de lo que me fiaba”.

Para el divulgador, el debate no debe centrarse únicamente en los fallos puntuales de la tecnología, sino en comprender cómo se construye la información dentro de estos sistemas y qué riesgos implica para el ecosistema informativo. En un contexto en el que la IA gana cada vez más presencia en la vida cotidiana, su advertencia apunta a un desafío emergente: la posibilidad de que la información no solo se difunda, sino que también se “contagie”.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.