¿Cómo se para un coche auto-conducido? Con un círculo de sal
Lecciones para engañar a una IA: cómo atrapar un vehículo autónomo con algo casi místico.
La idea de un coche que se conduce solo sonaba a ciencia ficción en el mercado automovilístico, a cosa de película futurista. Pero cuando el primer vehículo de la marca Tesla llegó al mercado, la ciencia ficción se hizo ciencia demostrada. Y actualmente vemos multitud de proyectos para poner en ciudades transportes públicos autónomos, autobuses y taxis sin conductor. No sólo eso, sino que primeras marcas como Volvo o Audi ya implementan los sistemas auto-conducidos en sus modelos para 2017 y 2018. Los coches sin conductor son una realidad.
¿Cómo se para un coche auto-conducido?
La idea de detener a un vehículo autónomo desde el exterior y sin usar la fuerza bruta parece que recaería en complicados elementos tecnológicos como el hackeo a distancia de su sistema operativo o cosas así. Pero en realidad es mucho más sencillo. Y aunque ciertamente se basan en el principio del pirateo, un artista británico de nombre James Bridle ha demostrado lo sencillo que es conseguir que uno de estos coches se pare usando una mezcla de la tecnología actual y el misticismo mágico más antiguo, aquél usado por los mismísimos druidas en el albor de la Humanidad.
En este vídeo llamado Trampa autónoma 001, Bridle ha querido ilustrar el límite que tiene el conocimiento sin contexto, uno de los dilemas que la Inteligencia Artificial lleva planteando alrededor suya desde que nació prácticamente. Porque, ¿de qué sirve tener un gran conocimiento si no se sabe aplicar en un contexto preciso? Eso es lo que le sucede al coche del vídeo, un vehículo autónomo que acaba inexplicablemente atrapado dentro de algo en apariencia tan inofensivo como un simple círculo de sal con símbolos que más parece de un ritual chamánico que no de una pieza de alta tecnología con IA propia.
Autonomous Trap 001 from stml on Vimeo.
Un círculo mágico de sal
¿Magia? ¿El coche detiene su marcha por los espíritus convocados? No, como decimos la cosa suena a misticismo y tecnología, ya que su autor ha usado un viejo círculo de sal, pero la clave está en el diseño de este, ya que si os fijáis tiene un diseño interior en raya continua y uno exterior en discontinua. Los sensores del coche lo escanean y la IA lo procesa como que está en mitad de una carretera y tiene ante sí una raya continua que según las Leyes de Tráfico no puede traspasar hasta que no sea discontinua. La lógica le hace detenerse, y el no saber interpretar el contexto lo lleva a estar detenido en mitad de un área de servicio sin nada alrededor.
Bridle ha ‘hackeado’ la IA del coche de la forma más simple posible, y demostrado con ello que aún queda mucho para que las máquinas autónomas puedan discurrir por el mundo teniendo pleno conocimiento del contexto, ya que en este ejemplo el coche necesitaría de la intervención humana ya fuese borrando el círculo o acelerando desde dentro, para salir de la trampa.