Google retira Gemini IA porque ha generado nazis negros y otras inexactitudes históricas
La gigante de la tecnología confirma que está buscando una solución porque aunque considera que la inclusión es positiva, reconocen que el comportamiento de la herramienta es errático.
La inteligencia artificial es una herramienta que puede servir para generar contenido audiovisual. Se trata de una tecnología que está dando bastante de que hablar porque los modelos utilizados suelen apropiarse del trabajo de artistas que no han dado el consentimiento de uso a terceras empresas, de modo que no reciben pago alguno. La polémica con Gemini, el generador de imágenes de Google, ha sido un poco diferente. Y es que la gigante norteamericana se ha visto obligada a desactivar temporalmente la funcionalidad porque está recreando a personajes de épocas históricas de una manera inexacta. En otras palabras, han aparecido soldados nazis y vikingos negros, y hasta un monarca británico de época pretérita con ese mismo color de piel.
Según The Verge, al solicitar a Gemini que cree ilustraciones de soldados alemanes en 1943, el software creó dibujos de personas negras vestidas con el uniforme nazi. También hizo lo mismo con los padres fundadores de Estados Unidos y con senadores del siglo XIX, lo que no coincide históricamente con la realidad de la época.
Google ya trabaja en una solución y reconoce el error
“Ya estamos trabajando para corregir los recientes problemas del generador de imágenes Gemini”, ha dicho Google en un comunicado oficial publicado en X/Twitter “Mientras trabajamos paralizaremos la creación de imágenes de personas y relanzaremos una versión mejorada pronto”. La compañía había dicho previamente que ya estaban al tanto de que Gemini estaba experimentando “algunas imprecisiones” a la hora de recrear imágenes de personajes históricos. “El generador de imágenes por IA Gemini crea una gran variedad de personas. Eso es generalmente algo bueno, porque la gente de todo el mundo lo usa, pero aquí está errando en el blanco”.
Después de que algunos usuarios solicitaran dibujos a la IA sobre ciertos grupos de personajes históricos y obtuvieran resultados similares a lo expuesto aquí, el error ha extendido la teoría de la conspiración de que Google está evitando de forma intencionada que la herramienta genere imágenes de personas blancas. Como cabría esperar, la verdadera razón es que la IA necesita algún que otro ajuste.