Qué es el DeepFake y cómo Facebook quiere combatirlo

En diciembre de 2017, a pocos días de la Navidad, la red entera tembló con el nombre de ‘Deepfakes’, una técnica de síntesis de la imagen humana basada en Inteligencia Artificial que mezclaba las palabras ‘deep learning’ (aprendizaje profundo) y ‘fake’ (falso). En sí, su IA es tan potente que permite cambiarle el rostro a una persona por el de otra, pero no en una foto estática, sino en un vídeo, y ver cómo el rostro nuevo se superpone y se adapta en tiempo real al rostro real de la persona en cuestión.

DeepFakes, una simulación IA

Al verla en acción, sus resultados daban miedo del realismo que se podía conseguir. Y no con carísimos equipos de hardware y programas de edición, sino con un PC normal y un par de programas. El revuelo se produjo porque Deepfakes fue popularizada por varios sites de contenido pornográfico, que colgaron vídeos eróticos de actrices tan destacadas como Gal Gadot manteniendo relaciones sexuales. ¿Era uno de estos vídeos privados robados y subidos a la red? No, era una actriz porno en pleno trabajo con un cuerpo y facciones parecidas a las de Gadot, a la que se le había puesto el rostro de la intérprete de Wonder Woman.

Los ‘fakes’ de celebrities como Katy Perry, Cara Delevigne, etc no tardaron en salir, y las demandas de ‘Cease and Desist’ por parte de los abogados de las actrices y cantantes tampoco se hicieron esperar, logrando que webs importantes de contenido para adultos retirasen los vídeos.

Cómo Facebook va a combatir el Deepfake

Las técnicas de “Deepfake”, que presentan videos realistas generados por IA de personas reales que hacen y dicen cosas ficticias tienen implicaciones significativas para determinar la legitimidad de la información en línea. El problema principal que Facebook ve a esto es que la industria no cuenta con un gran base de datos o un sistema estandarizado para detectarlos. Por ello, en la red de Mark Zuckerberg "queremos catalizar la investigación y el desarrollo en esta área y asegurarnos que haya mejores herramientas de código abierto para detectar deepfakes”.

Es por eso que Facebook, la Asociación de IA, Microsoft y académicos de Cornell Tech, MIT, Oxford, UC Berkeley, Universidad de Maryland, College Park, y la Universidad de Albany-SUNY se unen para construir el Reto de la Detección de Deepfakes (DFDC).

Ese reto incluirá una base de datos y una clasificación, junto con “financiación y premios para estimular a la industria a crear nuevas formas de detectar y evitar que los medios manipulados a través de la IA se utilicen para engañar a otros”. La administración y supervisión de este reto, estará a cargo un Comité de Dirección de IA sobre Integridad de Medios e Inteligencia Artificial, formado por una amplia coalición de organizaciones que incluyen Facebook, WITNESS, Microsoft y sociedad civil, así como otras comunidades de tecnología, medios y academia.

Entrenamiento de la IA de caza con actores reales

"Es importante contar con datos que estén disponibles gratuitamente para que la comunidad los use, con consentimiento explícito de las partes y pocas restricciones de uso". De cara ello, Facebook está “comisionando una base de datos específica, que sea realista, y que utilizará actores contratados para que contribuyan a este reto una vez que otorguen el consentimiento necesario”, de cara a entrenar su tecnología IA de detección.

Facebook reseña que “ningún dato de usuarios de Facebook será utilizado en esta iniciativa. También estaremos financiando premios y colaboraciones de investigación por un más de 10 millones de dólares para fomentar una mayor participación en este proyecto de la industria”. El lanzamiento completo de la base y del DFDC ocurrirá en la Conferencia sobre Sistemas de Procesamiento de Información Neural (NeurIPS) prevista para diciembre. Facebook también participará en este reto. Sin embargo, no recibirá ningún tipo de retribución financiera.

Para la red social, los vídeos Deepfakes y lo que pueden llegar a provocar  son  un problema en constante evolución, al igual que el spam y otros retos de la industria, y nuestra esperanza es que al ayudar a que la industria y la comunidad de inteligencia artificial se unan, podamos avanzar más rápido”.