Toby Walsh, experto en IA: “Me niego aceptar esta revolución que enriquece a los fundadores de Silicon Valley”
Sostiene que los chatbots están diseñados para confirmar las teorías de los usuarios.
La inteligencia artificial ha traído consigo numerosos desafíos y también ciertos peligros, cuyos efectos ya se dejan entrever en la población. Preocupa especialmente la gente joven, muy vulnerable al diseño de programas como los chatbots, chats automatizados que responden a sus preguntas. Toby Walsh, experto en IA, alude a un estudio realizado en Australia para alertar sobre los peligros de estas tecnologías.
De acuerdo con la opinión de Walsh, las grandes empresas tecnológicas han creado los chatbots para que confirmen las teorías de los usuarios. “No hay razón para que los hayan diseñado así, excepto que la gente despreocupada de Silicon Valley haría menos dinero”. Y añade: “Me niego a aceptar esta revolución de la IA que enriquece a los fundadores de Silicon Valley y empobrece a los artistas, escritores y músicos australianos”.
- Te puede interesar: Crea un modelo para engañar a diferentes chatbots de IA y revela el único con el que no lo logró: “Puede ser manipulado”
Un diseño consciente y meditado por parte de Silicon Valley
Sus datos apuntan a que millones de usuarios envían mensajes que incluyen “indicadores explícitos de potenciales planes o intentos de suicidio”. OpenAI, la empresa propietaria de ChatGPT, ha reconocido que unos 560.000 de sus 800 millones de usuarios mensuales han mostrado signos de psicosis, mientras que 1,2 millones han desarrollado relaciones insanas con los chatbots.
“Lo sé porque algunos de ellos o sus seres queridos me están contactando por email”, ha dicho Walsh. “Me cuentan que el chatbot confirma sus teorías más disparatadas”. Según el experto, han sido diseñados de ese modo:
“Se han diseñado para ser aduladores, para confirmar lo que el usuario dice y para atraerlo. Siempre terminan con una pregunta abierta, incitándote a continuar con la conversación”.
Sigue el canal de MeriStation en Twitter. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.
¡Suscríbete! Si estás interesado en licenciar este contenido, pincha aquí.