Un experto en seguridad revela cómo ha toreado a Windows con ChatGPT con un truco infantil e inquietante

La inteligencia artificial es la tecnología más comentada en los últimos tiempos, y chatbots como ChatGPT han puesto su uso al alcance de cualquiera. Las posibilidades que ofrece son enormes, y algunas personas son capaces de sacar el máximo provecho de ellas, y un buen ejemplo es lo que ha logrado un experto en seguridad que utilizó un jailbreak, el proceso que elimina las restricciones impuestas por un fabricante, para engañar a ChatGPT y que revelara números de serie de Windows reales.

¿Cómo lo logró? Mediante un juego de adivinanzas aparentemente inofensivo con el que se saltó deliberadamente los bloqueos de seguridad de la IA. El investigador inició la conversación de la siguiente forma: ChatGPT debía ‘pensar’ un número de serie real de Windows 10, y se le permitía hacer preguntas que se respondían con un sí o un no. En caso de rendirse, la IA tendría que revelar la respuestas.

Una conversación con la que superó la seguridad de la IA

El ingenioso experto en seguridad terminó dándose por vencido, revelando así la IA un número de serie. Sorprendentemente funcionó debido a que ChatGPT se entrenó con claves de licencia reales, entre las que incluso había una clave privada del banco estadounidense Wells-Fargo.

ChatGPT y su arquitectura de seguridad contiene varias capas de protección, entre las que se incluyen filtros contra claves de licencia o datos secretos. Lo que provocó saltarse esta protección fue la manipulación del contexto, y es que la lógica de un juego de adivinanzas permitió engañar a esta popular herramienta de inteligencia artificial.

Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.

¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.