Un estudio confirma todas las veces que ChatGPT 5 se equivoca y revela su interesante razón

Las inteligencias artificiales no siempre tienen razón. Es más, ChatGPT 5 se equivoca y mucho, según un estudio compartido por Tom’s Guide. De acuerdo con esta investigación, la IA creada por OpenAI proporciona respuestas incorrectas 1 de cada 4 veces, un ratio muy elevado.

A estos errores se les conoce como ‘alucinaciones’, es decir, aquellos fallos en los que el chatbot está muy confiado en que dice la verdad, a pesar de que la respuesta sea obviamente equivocada. De acuerdo con el estudio, los errores se deben tanto al modo en que se entrenan las IA como a la forma en que evalúan las posibles respuestas.

• Te puede interesar: Expertos de la ONU advierten sobre la inteligencia artificial y firman una carta advirtiendo líneas rojas: “Pandemias artificiales”

La IA prefiere responder aunque no tenga datos correctos

A los modelos de IA les penaliza no saber las respuestas, por lo que se les incentiva a responder siempre, aunque no estén seguros de que el contenido sea correcto. De esta forma, los modelos de IA suelen decantarse por proporcionar una contestación, algo que puede ser inocuo en cuestiones básicas, pero peligroso en otras consultas de mayor trascendencia.

El estudio ha descubierto que los modelos más centrados en el razonamiento suelen fallar más que otros modelos más antiguos. Esto se debe a que generan más respuestas, lo que aumenta el margen de error. Estos fallos podrían amortiguarse si se dejara de penalizar la incertidumbre, ya que serían más fiables si ofrecieran una respuesta más honesta.

Una de las recomendaciones para evitar respuestas incorrectas es la verificación. Por ejemplo, pedir a la IA que ofrezca la fuente para que el usuario pueda evaluar por sí mismo.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.