Entre lo humano y lo artificial

Detroit Become Human llega el próximo viernes 25. Quantic Dream nos trae una aventura narrativa en la que, entre otros temas, explorará los límites difusos entre lo humano y lo artificial. Esta cuestión, que nos permite reflexionar sobre los avances de la tecnología, ha estado presente en otros títulos que repasamos hoy.

La tecnología reinventa nuestro estilo de vida día tras día y sus avances suceden a un ritmo tan vertiginoso que a veces es difícil acostumbrarse. Mientras que una parte de la población se adapta con relativa facilidad a los cambios, éstos causan temor en otros sectores que temen que estemos yendo demasiado lejos a la hora de desafiar a la naturaleza. Dicho miedo inspira la creación de obras distópicas en las que se exploran futuros posibles y desesperanzadores, tal vez como advertencia sobre las consecuencias nefastas que puede traernos abusar de las máquinas como sustento de nuestra vida diaria. 

No obstante, ¿dónde está el equilibrio? ¿Hasta qué punto la tecnología resulta invasiva? ¿Qué sucede cuando se difuminan los límites entre lo humano y lo artificial? Hoy en día, dependemos de las máquinas para todo y, hasta ahora, las consideramos meras herramientas. No obstante, éstas han dado un paso más gracias a la inteligencia artificial. Tenemos asistentes personales en la palma de nuestras manos y en nuestros hogares y con los que interactuamos mediante conversaciones. En ocasiones, bromeamos con Siri o Cortana para buscar cierta complicidad y un nivel más en su comprensión del lenguaje humano, al mismo tiempo que se está trabajando para hacer que las máquinas procesen el humor, una faceta que nos hace humanos. 

En la ciencia ficción vemos el siguiente paso de la humanización de los robots: los androides; criaturas artificiales con aspecto humano. Es fácil empatizar con alguien cuya apariencia identificamos como cercana y más si muestra características similares a las nuestras. El humor, la inquietud artística, las emociones… son las más comunes. Los videojuegos también se han encargado de explorar la compleja cuestión sobre qué nos hace humano y qué nos diferencia de una réplica idéntica a nosotros. Detroit Become Human nos hará reflexionar sobre ello, pero, ¿qué otros títulos nos han presentado a los androides como criaturas con alma?

Hoy repasamos algunos juegos que ponen sobre la mesa ese conflicto entre los límites de la humanidad y la tecnología. No son todos los que son, pero sí son todos los que están, y también conviene advertir de que el presente reportaje contiene spoilers sobre los títulos que se tratan.  

Blade Runner, el sueño del androide

¿Sueñan los androides con ovejas eléctricas?, de Philip K. Dick, es una de las novelas más icónicas de la ciencia ficción. La versión cinematógrafica realizada por Ridley Scott resultaba una adaptación muy libre del libro, pero mantenía su esencia intacta. Blade Runner, con título homónimo al de la película, fue lanzado en 1997. Westwood Studios creó este point&click pionero en la renderización de personajes en 3D y en el progreso de los acontecimientos dentro del juego en tiempo real. La historia que plantea es totalmente original, aunque observamos en ella muchas referencias a la película. En Blader Runner, el detective Ray McCoy debe cazar a una serie de replicantes Nexus 6 infiltrados en la Tierra. Al igual que en el lore compartido por el libro y la película, dichos androides no se diferencian en absoluto a los humanos, ni en aspecto ni en comportamiento, salvo en la empatía. Entonces, para identificarlos, usaremos el test Voigt-Kampff, con el que mediremos la reacción del sujeto ante situaciones hipotéticas que le planteemos, la mayoría de las cuales estarán relacionadas con animales, extintos en la distopía en la que nos ubicamos. 

A medida que avancemos en el juego, comprobaremos que esta distinción ha quedado obsoleta. El personaje de Lucy se lamenta con sinceridad por la matanza de animales que hubo en la tienda, aunque también se siente celosa hacia ellos porque ve que ella no tiene el mismo valor que ellos, debido a su condición como replicante. Cuando conozcamos al propio grupo de replicantes, veremos que entre ellos se protegen, se quieren y luchar por una vida más digna; incluso han establecido relaciones entre ellos: Clovis y Dektora son pareja, y el primero ha adoptado a Lucy como hija. Asimismo, los replicantes muestran un instinto muy humano: el de autopreservación. Su propósito se basa en prolongar su vida y en muchos de ellos, como Izo o Dektora, oponen resistencia al ser ejecutados. 

En cada partida que iniciemos, la identidad de los replicantes será aleatoria, de tal modo que los sospechosos —excepto Clovis— no siempre serán humanos o androides. De esta manera, el juego nos disuade de hacer juicios precipitados y nos hará desconfiar incluso de nosotros mismos, ya que moldearemos nuestra naturaleza en la propia partida, según las decisiones que tomemos. En la película, si Deckard era un androide despertó uno de los debates más apasionantes entre sus espectadores, y dicha incertidumbre se transmite también en el mismo jugador, quien determinará la respuesta a través de sus acciones. 

La teoría de que la empatía es lo que diferencia a un androide de un humano se desmonta a la inversa: mientras que los replicantes son capaces de desarrollar afecto, vemos en los humanos las actitudes más crueles. Nuestra compañera Crystal Steel, cuyo odio hacia los androides es exacerbado, asesinará a nuestra perra en caso de que seamos replicantes con el fin de torturarnos. Runciter, el dueño de la tienda de animales que lleva su nombre, intenta abusar de Lucy en las primeras escenas del juego. Nosotros mismos podemos optar por la crueldad a la hora de ejecutar a nuestras víctimas; la opción de disparar a Clovis durante sus últimas palabras —un fragmento del poema de Blake “With happiness stretch’d across the hills” — estará disponible. 

Por supuesto, la intención de Blade Runner no es diferenciar los  replicantes de los humanos como dos polos maniqueos que representan el bien y el mal. Los androides cometen atrocidades durante el juego, muchas de ellas fruto de la desesperación y otras tantas que buscan la venganza, como el asesinato de Maggie por parte de Sadik. Los humanos también son capaces de mostrar compasión, como los mismos simpatizantes de los androides o el propio Ray McCoy a través de algunas decisiones que tomemos. Y es que los replicantes no dejan de ser una reproducción fiel de las personas, en la que vemos plasmadas tanto nuestras virtudes como nuestras miserias. 

Deus Ex, la crítica al racismo a través del cyberpunk

En Deus Ex, saga desarrollada por Ion Storm y, posteriormente, por Eidos Interactive, nos plantea una distopía cyberpunk, en la que nos presenta una sociedad decadente fundamentada en una tecnología avanzada y poderosa, pero afectada por una precariedad económica global. La superpoblación y la pobreza son temas recurrentes en Deus Ex, así como las organizaciones secretas que ansían el control mundial, como los Iluminati o los Templarios. El terrorismo también estará muy presente a lo largo de la saga, como desenlace inevitable de una tensión sociopolítica cada vez más violenta.

En la primera entrega, la pandemia muerte gris azota a una población cada vez más descontenta por no tener cura ni acceso a la ambrosía, el paliativo con el que mantener a raya la enfermedad y que se halla al alcance de los más privilegiados. En la segunda entrega, conocemos a los aumentados, humanos con implantes cibernéticos que superan sus propias capacidades físicas. En Deus Ex: Human Revolution, contemplamos cómo esta nueva generación no es bien recibida socialmente por el resto de humanos, quienes han perdido sus empleos en favor de esta nueva clase social que goza de mayores oportunidades y son considerados una raza superior. En esta alegoría del racismo, vemos aflorar un miedo muy instintivo: rechazamos lo que es diferente y percibimos como amenaza a nuestro estatus. Los humanos puros se sienten acorralados ante un nuevo modelo de su propia especie evolucionada gracias a los artificios creados por ellos mismos. Los intereses empresariales y de grupos organizados entran en juego, y lo que parece un ataque del grupo terrorista Frente Humanidad, una facción extremista que desea erradicar a los aumentados de la sociedad, resulta que es un plan de Darrow, el mismo inventor de los aumentos, que quiere acabar con los aumentados mediante un demente plan de suicidio colectivo inducido, y reiniciar el progreso de la humanidad.

En Deus Ex: Mankind Divided, vemos una realidad poco halagüeña para los aumentados, obligados a vivir en guetos. El Apartheid que se ha vivido en nuestro planeta en países como Estados Unidos o Sudáfrica se ve retratado en esta segregación en detalles infames que afectaban a la vida cotidiana, como el uso restringido del transporte público. 

En un enfoque más intimista, Adam Jensen, protagonista de los dos últimos títulos de la saga, nos proporciona una ventana al conflicto entre la preservación de la propia humanidad y la dependencia de la tecnología. Después del atentado de Tyrants, en el que Jensen fue gravemente herido, Sarif Industries convierte a Adam en aumentado. “Nunca pedí esto”, se lamenta Jensen en su frase más célebre. Durante una escena en la soledad de su hogar, rompe el espejo de un puñetazo, puesto que no soporta su propia imagen. Se siente incómodo en su propio cuerpo y las consecuencias sociales que conlleva pertenecer a un grupo de parias que, por otro lado, son considerados el próximo estadio de la evolución humana. Y, sin embargo, Jensen necesita sus propios implantes para sobrevivir y cumplir su cometido. El mismo jugador siente las ventajas de tener un cuerpo aumentado durante la partida, a través de la fantasía de poder que causa el usar las habilidades especiales que nos conceden los implantes. La inspiración renacentista de la imaginería del juego nos evoca al androcentrismo de la época y a la aspiración por llevar al máximo todas las cualidades del ser humano, y en el universo de Deus Ex se presenta a los aumentos como el camino a ese ideal, si bien consiste en un regalo envenenado. Y, no obstante, no dejamos de preguntarnos hasta qué punto se mantiene nuestra humanidad si un alto porcentaje de nuestro cuerpo es mecánico. A día de hoy, nuestra vida cotidiana y profesional se sustenta en la tecnología, y gracias a ella muchas personas han superado problemas de salud y movilidad. Nuestro cuerpo es cambiante, y lo alteramos constantemente en menor o mayor grado, y no perdemos nuestra esencia, que se compone de muchos más aspectos.

Nier: Automata, de almas en máquinas

Yoko Taro ha creado un complejo universo con esta saga transmedia, que se relata a través de videojuegos, novelas, CD dramas, guías y etcétera. El concepto de alma y tecnología quedan unidos en una obra de gran contenido filosófico sobre la cual versan diversos ensayos. 

La humanidad se aboca a la extinción debido al síndrome de la cloración blanca, una enfermedad incurable, para lo cual se diseña el Proyecto Gestalt, una vía a la salvación. Separan el alma del cuerpo y crean los replicantes, unos clones resistentes a la pandemia que servirían del nuevo recipiente de las almas o Gestalts. Sin embargo, dichos replicantes cobran conciencia propia y rechazan a Gestalts como nuevos huéspedes, con lo que estos últimos, una vez han quedado sin propósito, se vuelven hostiles. 

Por otro lado, se habían creado los androides, cuyo propósito era velar por las personas y supervisar el Proyecto Gestalt. Tras el fracaso, habían perdido su finalidad, con lo que decidieron crear una mentira para mantener la esperanza de que la humanidad continuaba con vida en un exilio lunar. 

Así, vemos que las criaturas artificiales, al igual que hemos vivido en tantas otras obras de ciencia ficción, son capaces de desarrollar instinto de preservación, conciencia propia, y toman decisiones que sirvan a dar sentido a sus vidas. En Nier Automata, de PlatinumGames, se profundiza en otras características que humanizan a los androides. Nuestra protagonista, 2B, es una YoRHa, un modelo de androide con aspecto femenino diseñado para luchar contra las máquinas invasoras alienígenas que buscan erradicar a la humanidad, a la que se supone con vida, para que ésta pueda regresar de su destierro. Su compañero, 9S, es quien muestra una faceta sentimental que plantea al jugador la posibilidad de una criatura artificial pueda albergar emociones, pese a que les está prohibido. En varios momentos del juego, él manifiesta el conflicto ante el deber, determinado por su propia programación, y las emociones que no sabe gestionar y que le causan rechazo. Él desea proteger a 2B a toda costa y muestra un tipo de afecto hacia ella con la inocencia de alguien que empieza a sentir por primera vez, si bien la ginoide le mantiene a raya. A lo largo del juego se construye una relación entre ambos que podría calificarse de romántica, si bien encuentran en su mismo diseño las barreras que les impiden desarrollarla al igual que los seres humanos, a los cuales el amor les lleva a fines reproductivos. La propia 2B se refugia en la frialdad para evitar males innecesarios a su compañero, al que deberá ejecutar por orden de la Comandante de YoRHa cuando él descubra la verdad sobre el destino de la humanidad. Tras ello, podrá descargar la conciencia de 9S a un nuevo cuerpo, con el precio de que sus recuerdos no se conservarán.

Sin duda, el universo de Nier propone muchos debates filosóficos a los cuales dedicar reportajes enteros, y sin duda la experiencia sentimental es uno de los más interesantes. A lo largo de su vasto lore, contemplamos seres artificiales que desarrollan instintos humanos como la autopreservación, y en el caso de los dos androides protagonistas, accedemos a una visión del amor más espiritual, carente de deseo carnal y afectado por dilemas morales como la protección de nuestro amado ante un destino que le privará de sus propios recuerdos y que son, al fin y al cabo, parte de lo que compone la idea de alma que expone Yoko Taro. 

The Red Strings Club, reivindicaión de los sentimientos

The Red Strings Club, de Deconstructeam, es otro videojuego cyberpunk en el que se retrata la decadencia de la sociedad. En esta aventura narrativa, se nos presenta una sociedad distópica en la que la empresa Supercontinent, especializada en la instalación de implantes para que sus clientes cumplan sus deseos, inicia un plan para suprimir las emociones negativas. El control de sentimientos como la tristeza, la frustración ya se ha tratado en novelas como Un Mundo Feliz, de Aldous Huxley, y es la premisa de We Happy Few. La intención de este plan no es el altruismo, sino lograr una sociedad dócil y manipulable. Nuestros protagonistas, Donovan y Brandeis, se organizarán para sabotear los planes de Supercontinent.

Tanto en las propias mecánicas del juego, como en el universo que iremos desvelando a lo largo de la partida, veremos los límites entre lo humano y lo artificial muy difusos. Donovan, desde su profesión de camarero, ejercerá el rol de terapeuta que se le suele atribuir al gremio, y lo usará a su favor para descubrir nueva información. A través de él, observaremos a nuestros clientes y la emoción que manifiesten y, acorde con ello, deberemos preparar un cóctel que potencie dicha emoción para encaminar la conversación. Por su parte, con la ginoide Akara, moldearemos los implantes que requieran nuestros clientes y que potenciarán sus habilidades, como el carisma o la persuasión. La misma robor mostrará una empatía singular, con la cual es capaz de ponerse en el lugar de las otras personas y percibir cómo se sienten, lo cual la ayuda a escoger la alteración más adecuada para sus compradores. 

Es curioso el enfoque que ofrece The Red Strings Club a las emociones como pilar fundamental de su propia historia. Si bien pueden considerarse la característica que nos hace más auténticos como humanos, a lo largo del juego se nos plantean múltiples maneras en las que la tecnología las desprovee de toda naturalidad, desde la criminalización de los sentimientos negativos, pasando por la manipulación de otras emociones a través de bebidas especiales, como las alteraciones físicas con el fin de modificar nuestra personalidad. Por otro lado, a lo largo del juego vemos la espontaneidad de los sentimientos contra los que que Supercontinent quiere luchar: las inseguridades propias de los clientes de Akara, la melancolía en los parroquianos del bar de Donovan y la paranoia latente en la población. Estos sentimientos son los que, en el fondo, nos hacen temibles ante una empresa que quiere eliminarlos, porque sin ellos seríamos versiones incompletas de seres humanos que, por el contrario, serían indomables.

Snatchers: la ética en la tecnología

Snatcher es la aventura conversacional cyberpunk de Hideo Kojima, en la que se advertimos una fuerte inspiración en Blade Runner. Nos sitúa en una sociedad distópica, afectada por un desastre biológico apodado como “La Catástrofe”, en la que el arma biológica Lucipher-Alpha, explota durante su experimentación y acaba con el 80% de la población de Eurasia. Años más tarde, después de que el continente sea habitable, se suceden una serie de asesinatos llevados a cabo por los snatcher, unos bioroides que suplantan a sus víctimas y les imitan tanto en aspecto, como en personalidad. El detective Gillian tiene la misión de identificar a los intrusos y eliminarlos. Esta premisa guarda un gran parecido con Blade Runner, y el diseño de los snatchers está inspirado en Terminator. Asimismo, el juego está repleto de guiños a otras obras de ciencia ficción, como Alien o Dune.

A lo largo de una aventura cyberpunk con tintes noir, recibimos el mensaje de que la tecnología puede ser una herramienta muy útil, tal y como nos demuestra Metal Gear, el pequeño asistente mecánico que nos acompaña y que analiza pistas, memoriza números de teléfono, recopila toda la información recaudada de nuestra investigación y será a través del cual guardemos la misma partida. Este robot, que luce una personalidad programada por el propio Gillian (¿tal vez buscaba diseñarse un amigo que consolara su sensación de soledad?) se ganará el cariño del jugador con su simpatía e inocencia. Sin embargo, por otro lado, vemos el rostro más oscuro de las máquinas a través de los propios snatcher, de los que descubriremos que forman parte de un experimento político para sustituir a los líderes mundiales y hacerse con el control del planeta. 

Así, Kojima expone en este juego los dos rostros de la tecnología: sus beneficios al progreso de la humanidad y el peligro de abusar de ella y convertirla en un arma mortífera. Si bien en el juego el rol los androides no se muestran como criaturas con las que empatizar, son monstruos amenazantes que nos hacen reflexionar sobre la importancia de la ética en la ciencia. En Snatcher, estos malvados bioroides no han sido diseñados para facilitar la vida cotidiana, como lo ha sido Metal Gear, sino como un arma política que, pese a ver su fin frustrado, ha sumido a la humanidad en un estado de desconfianza perpetuo, ya que nunca se sentirán seguros si la persona más cercana a ellos ha sido reemplazada por una máquina que puede convertirnos en su siguiente víctima.

Fallout y la convivencia en un yermo hostil

El post-apocalipsis que plantea Fallout nos deja una población mundial diezmada por una guerra nuclear que ha convertido la Tierra en un planeta impracticable. Los más afortunados han conseguido sobrevivir gracias a refugios subterráneos, aunque muchos de ellos demostraron ser un lugar casi tan poco acogedor como el frente bélico. El resultado es un yermo, en el que varios asentamientos y ciudades supervivientes pugnan por reconstruir una nueva vida en una nueva era.

A lo largo de esta saga RPG, vemos a una humanidad sustentada en la tecnología más avanzada, y en la que pocos recursos están exentos de la contaminación de la posguerra. Tanto el agua como la comida están contaminados de radiación, salvo la fabricada por los Kit de Creación del Jardín del Edén o los chips de agua. En los refugios, los habitantes disponen de un Pip-Boy, un asistente personal que se coloca en la muñeca a modo de un gigantesco reloj. La intromisión de la tecnología en el propio cuerpo también está presente, como la instalación de chips potenciadores de habilidades en Fallout 2, o la prolongación de la propia vida a través de conectar el cuerpo a un ordenador de potencia colosal, como el caso de House en Fallout: New Vegas.

Asimismo, los humanos conviven con nuevas razas que han surgido a raíz de la calamidad nuclear y los experimentos tecnológicos descontrolados: los necrófagos, humanos expuestos a la radiación; sanguinarios, letales quimeras de animales y, por supuesto, los robots y androides. 

En todos los hogares antes de la guerra y en refugios era común disponer de Señor Mañoso, un robot asistente especializado en tareas domésticas y programado con una voz que evoca a un mayordomo inglés, educado y servicial. En el caso de Wadsworth, nuestro mayordomo en Megaton (Fallout 3), tendrá la capacidad de contarnos chistes absurdos.

Los humanoides sintéticos también serán una especie más, que conoceremos en Fallout 3 y Fallout 4. En el primero, durante la misión El replicante, el Doctor Zimmer nos encargará cazar a un androide fugado que se ha sometido a cirugía plástica para no ser reconocido. Este sintético será Harkness que, harto de su condición de esclavo, se rebeló contra su dueño y decidió empezar una nueva vida en Rivet City, para lo cual no sólo se cambió el rostro, sino que hizo reiniciarse su propia memoria. En una de sus grabaciones, escuchamos una declaración de principios reveladora: "La autodeterminación no implica una avería".

En Fallout 4, ahondamos más en el Instituto, la organización creadora de los sintéticos y sobre la cual penden muchos prejuicios, y es que muchas personas temen ser reemplazadas por androides al descubrir que éstos eran utilizados en misiones de espionaje. Sus androides se han ido perfeccionando a cada versión, hasta lograr ser una copia idéntica de los seres humanos, con la única salvedad de que no pueden aumentar ni disminuir de peso. La última generación de androides logra generar emociones humanas, lo cual les ha conducido a muchos de ellos a un sentido de autodeterminación que les lleva a tomar decisiones no siempre aprobadas por el Instituto, como el caso de Harkness.

Asimismo, conoceremos al Ferrocarril, una facción simpatizante de los androides que les ayuda a escapar de la Commonwealth, donde son esclavizados, para iniciar una vida más feliz. Como jugadores, podemos mostrar nuestro apoyo tanto al Instituto como al Ferrocarril, en función de cómo deseemos crear a nuestro personaje, si deseamos hacer de él un humano purista que ve a los androides como meras herramientas o como compañeros iguales en dignidad.

Detroit Become Human, ¿qué es ser humano?

Próximamente, Detroit Become Human volverá a sacar a la palestra este interesante debate sobre qué hace un androide comparable al ser humano. ¿Su capacidad de manifestar emociones? ¿Su empatía? ¿Su instinto de supervivencia? ¿Sus inquietudes artísticas? Esta inminente aventura narrativa de Quantic Dream nos hará ahondar en estas cuestionas, al mismo tiempo que nos formulemos otras. Pero lo que veremos, sobre todo, es a un grupo de criaturas artificiales que, al igual que los humanos, desean ser reconocidos como criaturas válidas.