Los peligros del sistema de reconocimiento facial de China: una mujer acusada por error

¿Método de vigilancia o instrumento de control? En China, país en el que sus dirigentes están obsesionados con controlar hasta el más mínimo detalle de la población -Internet está censurado, las redes sociales están censuradas-, las calles de sus ciudades ya cuentan con un sistema de vigilancia con miles de cámaras urbanas, en el que los policías usan gafas de Realidad Aumentada y todo. Un gran hermano absoluto en el que compañías como Sensetime juegan un papel muy relevante.

Gran hermano chino

Sensetime, una de las compañías chinas de Inteligencia Artificial de más éxito, que ya tiene cámaras inteligentes para el gobierno chino que sirven tanto para cazar criminales como para monitorizar a los ciudadanos. De hecho son tan avanzadas que “pueden reconocer más de 4.000 vehículos“ entre bicicletas, coches y autobuses, e identificar a personas “según sean adultos, niños, masculino o femenino”. Esta tecnología permite incluso cosas como detectar a alguien que está cruzando por donde no debe, enfocarlo y ponerlo en enormes pantallas por toda la calle para avergonzarlo delante de todo el mundo, algo que se conoce como ‘Jaywalking’.

Ampliar

Pero, ¿y si se diera el caso de un falso positivo registrado por el sistema? Pues esto es exactamente lo que ha pasado: Dong Mingzhu, una conocida mujer de negocios del país, fue acusada en la ciudad de Ningbo de hacer cruzado mal por el paso de peatones. Lo curioso del tema es que Mingzhu no estaba cruzando esa carretera en ese momento. Lo estaba haciendo una imagen promocional suya pegada al lateral de un autobús. O sea: el sistema de reconocimiento facial chino confundió un anuncio de autobús con una persona real, y emitió una infracción basándose en el nombre y DNI de la afectada, la cual puso en pantalla grande en un sistema degradante para humillar al infractor delante de todo el mundo.

“Hemos mejorado el sistema”

Ante semejante error garrafal, sobre todo en un sistema de vigilancia del que las autoridades tanto presumen, la Policía borró rápido la errónea infracción y anunció que han actualizado la tecnología de reconocimiento facial para que no vuelva a suceder, “reduciendo el falso ratio de reconocimiento“. Esto podría no pasar de una simple anécdota, pero al contrario: revela los peligros que un sistema de vigilancia como este acarrea, ya que si en vez de a esta mujer, que es famosa y puede mostrar que era un anuncio de autobús, le pasa a alguien anónimo, ¿qué posibilidades tendría de defenderse? Las mismas que las de la ejecutiva no, desde luego.