YouTube refuerza sus normas contra los deepfakes y el uso de la IA en sus vídeos

La naturaleza única y potencialmente perjudicial de la inteligencia artificial ha hecho que el gigante YouTube implante nuevas medidas para evitar la proliferación de noticias falsas/fake news y de contenido como los llamados deepfakes. La compañía propiedad de Google redobla sus esfuerzos para luchar contra la desinformación en su plataforma.

YouTube ve peligros en un uso sin control de la IA y refuerza sus políticas sobre los montajes y deepfakes

El pasado 19 de marzo de 2024, YouTube actualizó sus políticas de uso como parte de su continua lucha contra la desinformación en su plataforma. A partir de este día es obligatorio marcar todo el “contenido alterado” como tal. ¿Y qué entiende como “contenido alterado” YouTube? Muy sencillo: todos aquellos vídeos modificados que pueden ser confundidos por algo real. En su web dan varios ejemplos: modificar digitalmente el rostro de una persona por otra, o alterar escenas populares de cine y series para añadir a actores que no aparecieron en las obras originales. No contaría, por ejemplo, usar filtros de belleza o limpiar el audio de un vídeo para que suene de forma más clara. Los creadores de vídeos como este, mostrando cómo sería Breaking Bad ambientada en Berlín, tendrán que marcar que es contenido alterado.

No acatar esta nueva normativa puede conllevar recibir penalizaciones en la cuenta de YouTube de los infractores, que van desde no poder monetizar el contenido hasta el cierre de la cuenta en sí. Con esta medida, YouTube quiere combatir en medida de lo posible la desinformación, un peligro muy real y cada vez mayor en la era digital, con la proliferación de inteligencias artificiales que facilitan a los usuarios el crear contenido modificado.

Curiosamente, hay una exención muy llamativa a estas nuevas políticas. El contenido animado dirigido a menores —uno de los principales pilares de YouTube— está exento de seguir esta nueva normativa. Es decir, los dibujos animados para niños podrán usar contenido generado por IA y no tendrán la obligación de tener que ser marcado como “contenido alterado”.

El peligro real de la manipulación vía inteligencia artificial

Con estas nuevas medidas, YouTube se estaría cubriendo las espaldas de cara a las próximas elecciones presidenciales de Estados Unidos, que tendrán lugar el 5 de noviembre de 2024 y donde se verán las caras Joe Biden y Donald Trump.

La desinformación promovida en redes sociales por agentes maliciosos puede llegar a cambiar los resultados electorales de unos comicios tan importantes. Mientras que antaño la principal preocupación con respecto a unas elecciones era su posible amaño, hoy día manipular unos resultados puede ser tan simple como mostrar un montaje en vídeo de uno de los políticos implicados cometiendo un acto ilegal o inmoral, efectivamente influyendo negativamente en su imagen pública y haciendo que los electores voten a su rival. O al revés; se puede manipular la opinión pública mostrando a figuras clave de la política en actos que refuercen su imagen aunque nunca hayan sucedido.

El auge de la inteligencia artificial supone un nuevo reto para las democracias de los países libres, y la última línea de defensa que hay ante ellas es el propio rigor periodístico y las medidas de seguridad que las plataformas como YouTube implanten para luchar contra la desinformación.

Nvidia, al timón de la revolución de la IA

La principal empresa tecnológica que se encuentra a la cabeza de este auge de las inteligencias artificiales es Nvidia. Compañía que, en 2024, ha adelantado a gigantes como Amazon o la propia Google en cuanto a valor total. Su creación de hardware específico enfocado a la inteligencia artificial como las GPUs H100 y H200 la han convertido en la principal distribuidora de este tipo de productos para otras grandes empresas.

Su CEO, Jensen Huang, ve de forma positiva la llegada de las inteligencias artificiales a distintos sectores laborales, Según él, “en el futuro no será necesario programar” ya que la IA hará “todo” por nosotros.