EX_MACHINA
“I am become death, The Destroyer of Worlds”
Esas fueron la palabras de Bhágavad Guita, un importante texto sagrado hinduista, y uno de los clásicos religiosos más importantes del mundo, que le vinieron a la mente de Julius Robert Oppenheimer, momentos más tarde, cuando la primera bomba nuclear fue detonada el 16 de julio de 1945, en La Prueba Trinity, en Nuevo México, Estados Unidos; pues siempre expresó su pesar, por el fallecimiento de víctimas inocentes, cuando las bombas nucleares fueron lanzadas contra los japoneses en Hiroshima y Nagasaki, en agosto del mismo año.
La ciencia ficción, tiene una virtud que seguramente, ningún otro género de la literatura o del cine tiene:
Desdoblar el presente, para situarlo en un contexto presumiblemente futuro, y tratar de ver, cómo encaja el cuadro… intento cuyo resultado se convierte a veces, en la cuadratura del círculo, un rompecabezas que termina en pesadilla:
Nos enfrentamos a la distopía.
La Inteligencia Artificial (A.I.), ha sido abordada en numerosas cintas, desde los inicios del cine; sin embargo, es en las últimas 2 décadas, donde han surgido títulos en los que la A.I. es el protagonista absoluto de la trama y, por ende, la deconstrucción del tema, y el desarrollo de la cinta gira de manera exclusiva en torno a esta tecnología, cuestionando su uso, y acercándonos a un futuro, que cada vez tiene menos de ficción.
Resulta que Eugene Goostman, es un bot conversacional, desarrollado por primera vez, por un grupo de 3 programadores:
El ruso Vladimir Veselov, el ucraniano Eugene Demchenko, y el ruso Sergey Ulasen, en San Petersburgo, en 2001.
Goostman, es retratado como un niño ucraniano, de 13 años de edad, un rasgo que pretende inducir perdón en los usuarios por su gramática, y el nivel de conocimiento.
Tiene como origen, Odessa, Ucrania, y que tiene como mascota, un conejillo de india, y un padre que es un ginecólogo.
Veselov declaró, que Goostman fue diseñado para ser un “personaje con una personalidad creíble”
La elección de la edad, fue intencional, en opinión de Veselov, como un niño de 13 años de edad, “no es demasiado viejo para saber todo, y no demasiado joven para saber nada”
La corta edad de Goostman, también induce a la gente que “dialoga” con él, para perdonarle los errores gramaticales menores en sus respuestas.
En 2014, el trabajo se hizo en la mejora del “controlador de diálogo” del bot, lo que permite a Goostman, un arranque en el diálogo, más parecido a los humanos.
El bot Goostman, ha competido en varios concursos de Prueba de Turing, desde su creación, y terminó 2º en el concurso Premio Loebner 2005 y 2008.
En junio de 2012, en un evento que marca lo que hubiera sido el cumpleaños #100 de su homónimo, Alan Turing, Goostman ganó lo que se promueve como, “el concurso de La Prueba de Turing más grande de la historia”, con éxito contundente, de 29% de los jueces, de que era humano.
El 7 de junio de 2014, en un concurso con motivo del 60 aniversario de la muerte de Turing, el 33% de los jueces del evento, pensó que Goostman era humano.
El organizador del evento, Kevin Warwick, consideró que “pasó” La Prueba de Turing, en consecuencia, por la predicción de Turing que, para el año 2000, las máquinas serían capaces de engañar a un 30% de los jueces humanos, después de 5 minutos de interrogatorio.
La validez y la pertinencia de “pasar” de Goostman, fue cuestionada por los críticos, quienes señalaron la exageración de los “logros” de Warwick, y de los organizadores del evento, el uso del bot de la personalidad, y el humor en un intento de desviar a los usuarios de sus tendencias no humanas, y falta de inteligencia real, junto con “pases” logrados por otros bots conversacionales en eventos similares en el pasado.
“What happens to me if I fail your test?”
EX_MACHINA es una película de ciencia ficción, del año 2015, escrita y dirigida por Alex Garland.
Protagonizada por Domhnall Gleeson, Alicia Vikander, Oscar Isaac, Sonoya Mizuno, Chelsea Li, Evie Wray, Corey Johnson, Symara A. Templeman, Deborah Rosan, Elina Alminas, entre otros.
Nominada a 2 Premios Oscar:
Mejor guión original y efectos visuales.
La idea de EX_MACHINA llegó a Garland cuando tenía 11 años de edad, después de que había hecho algo de código básico, y experimentación en un equipo que sus padres le habían comprado, y que a veces sentía, que tenía una mente propia.
Más tarde, las ideas procedieron de años de discusiones, que había estado teniendo con un amigo, con una experiencia en la neurociencia, que afirmaban que las máquinas nunca podrían llegar a sentir; y tratando de encontrar una respuesta por su cuenta, empezó a leer libros relevantes sobre el tema.
Otras inspiraciones llegaron, provienen de películas como la de Stanley Kubrick “2001: A Space Odyssey” (1968), “Altered States” (1980), y los libros escritos por Ludwig Wittgenstein, Ray Kurzweil, y otros.
Por lo que querer total libertad creativa, sin tener que agregar secuencias de acción convencionales, hizo EX_MACHINA con el menor presupuesto posible.
Siendo la opera prima del novelista y guionista, Alex Garland, EX_MACHINA no está basada en novelas escritas por monstruos de la ciencia ficción como:
Isaac Asimov o Brian W. Aldiss, lo que representa un reto mayor, y del que sale gloriosamente bien parado.
Los típicos dilemas morales de:
Jugar a ser Dios, las dudas, y giros del posible comportamiento de la “máquina”... todo ello es llevado con una puesta en escena soberbia, elegante, perturbadora, y aderezada con unas actuaciones notables.
Alex Garland, toca temas que le fascinan desde hace tiempo, y utiliza nuestros miedos, e inseguridades, frente a la tecnología, y el papel que tiene en nuestras vidas.
“Generalmente hablando, nos sentimos incómodos ante la inteligencia artificial, y los ordenadores.
Es algo en lo que todos pensamos.
Pero lo enfoco desde otro ángulo, porque no es un tema que me preocupe mucho.
En EX_MACHINA, simpatizo con la robot” dijo el director.
Con tan sólo $15 millones de presupuesto, una cifra insignificante, respecto a otras producciones, EX_MACHINA puede definirse, como un “thriller psicológico romántico científico”, que plantea hasta qué punto, la A.I. puede alcanzar completa autonomía en la mente de un robot, y cuál es el límite entre la realidad y la ficción, donde una máquina es capaz de sentir y, más aún, llegar a ser consciente de ese sentimiento, y tener el albedrío de decidir, si lo que es correcto para él, también lo es para el resto, y viceversa, es decir, una inteligencia creada, superior a la mente humana y, lo peor de todo, convencida de su propia existencia.
EX_MACHINA se rodó durante 6 semanas, en el Juvet Landscape Hotel en Valldalen, Noruega; y los estudios Pinewood de Londres.
La acción gira entorno a un tecno científico, Nathan Bateman (Oscar Isaac), un programador multimillonario, que selecciona a Caleb Smith (Domhnall Gleeson), un joven empleado de su empresa, para que pase una semana en un lugar remoto, con el objetivo de que participe en un test, en el que estará involucrada su última creación:
Ava (Alicia Vikander), un robot-mujer, en el que inteligencia artificial lo es todo.
Es una propuesta reflexiva, que juega con el misterio en clave de ciencia ficción, donde para ser víctima, no sólo hay que serlo, sino también parecerlo.
“Isn't it strange, to create something that hates you?”
EX_MACHINA refiere a “Deus ex machina”, una frase que suele traducirse erróneamente como “El Dios en la máquina”
En realidad, la frase se usaba en el teatro griego y romano para denominar un pobre recurso narrativo, que podríamos traducir literalmente por:
“El Dios de la grúa”, “machina”, del griego “mekhane”, significa literalmente “grúa”, o un poco más libremente, como:
“El Dios que baja del cielo”
La función de la divinidad en cuestión, era entonces, resolver de manera artificial, un argumento controvertido, o engorroso.
Por lo que todo escritor de ficción, en algún momento de su carrera, ha recurrido al oportuno atropello, o rayo que parte en 2, al testigo de cargo, como modernos sucedáneos del descenso de la deidad.
Por lo que en EX_MACHINA, la reflexión principal que muestra, se mueve en la discrepancia de un debacle eterno:
Inteligencia Humana vs. Inteligencia Artificial.
Lo bueno que tiene, es que expresa su argumentación de una manera convincente, y con mucha alma.
El otro factor que la convierte en una película para el recuerdo, se puede observar en la maquinación de su técnica irreverente, y su sonido grandioso; además que fue filmada como la acción en vivo ordinaria, donde no hubo efectos especiales, pantalla verde, o marcadores de seguimiento utilizados durante el rodaje.
Todos los efectos, se hicieron en post-producción.
Para crear las funciones robóticas de Ava, se filmaron las escenas, con y sin la presencia de la actriz Alicia Vikander, lo que les permitió capturar el fondo detrás de ella.
Las partes que querían mantener, especialmente las manos y la cara, fueron “rotoscopeadas” mientras que el resto, fue pintado digitalmente, y el fondo detrás de ella, restaurado.
Los sistemas de cámara, y el cuerpo de seguimiento de la actuación de Vikander, fueron transferidos a los movimientos del robot CGI.
En total, fueron cerca de 800 tomas de efectos visuales, 350, o menos de los cuales, eran tomas de robots.
EX_MACHINA juega con las dudas, la manipulación, y los secretos para crear un ambiente desasosegante, enmarcado en una de esas nuevas casas ecológicas, e inteligentes, en un escenario tan bonito y moderno, como frío, claustrofóbico, y poco fiable.
Alex Garland, aparte de desarrollar un guión sólido, demuestra dotes de buen realizador, con una puesta en escena, voluntariamente fría, pero cuidando la dirección de actores hasta en el último detalle, para lograr que, ante todo sea una malsana historia de trío ¿amoroso?, de raíces “noir”
Como ciencia ficción para adultos, pero asequible al espectador “no especializado”; EX_MACHINA pierde ritmo por momentos, con su minimalista puesta en escena, el escaso número de personajes, y la poca cantidad de tecnicismos en los diálogos, pero permite que nos centremos en lo importante:
La relación de Caleb y Ava, en clara alusión a Eva del Génesis bíblico, y “La Costilla de Dios”, que comienza como la de un tutor con su alumna, a la que evalúa en su desarrollo en base a conversaciones, pero con la que se ve atrapado poco a poco, entre la admiración científica, y su belleza física.
Este ejercicio, es conocido como “Test de Turing”, donde Nathan oficia de Dios/juez, observando todo desde una cámara de vigilancia.
De manera paralela, Caleb va descubriendo los secretos que se ocultan detrás de las habitaciones de la casa, y de Kyoko (Sonoya Mizuno), la atractiva asistente de Nathan.
Y EX_MACHINA tiene grandes momentos, siendo las charlas “a solas” entre ambos protagonistas, el punto más alto, donde la pantalla exuda erotismo.
Los diálogos son agudos, en un constante desafío a la inteligencia del otro, y con ello, también a la del espectador, poniendo a prueba nuestra empatía para con los personajes, sin abandonar la premisa sobre el valor de vida, la libertad, y la cuestionada perfección de Dios, y su máxima creación.
La tensión y la frialdad, se respira desde la primera escena, y gran mérito recae en las inmejorables interpretaciones de los 3 personajes principales:
Nathan, como un tipo genio en la materia, pero de evidentes carencias sociales; Caleb como un joven prodigio, permeable, y admirador de la ciencia, y su trabajo; y Ava, un personaje que consagra a la hermosa Alicia Vikander, gracias a su capacidad de transmitir con detalles, y lograr que empaticemos absolutamente con una máquina diseñada para pensar, convencer, y conmover.
Nathan encarna al excéntrico gurú del motor de búsqueda más utilizado en el mundo, el “Blue Book”, que sin ir más lejos podría ser “Google”
Su indudable genio, sumado a su ambición, y a la ausencia de una clara directriz ética en su proyecto, le lleva a crear a Ava, nombre fonéticamente muy similar a Eva, la primera de una estirpe, hija del “Gran Hermano”, en que Nathan ha convertido a “Blue Book”
Así pues, Ava, una seductora robot, muy consciente de lo que es, pero quizá no tan conforme con su condición, ya tiene un padre y una madre...
El cóctel incluye triviales menciones a Turing, y otros pioneros de la inteligencia artificial, y toda una exhibición de “art déco”, cuadros de Klimt y Pollock incluidos, adornando el palacete posmoderno, donde Nathan diseña, maltrata, viola, y en último término, asesina a sus cibernéticas muñecas electrónicas:
Jasmine (Symara A. Templeman), Amber (Elina Alminas), Jade (Gana Bayarsaikhan), Katya (Tiffany Pisani), y Lily (Claire Selby)
Pero Ava es la versión más avanzada de todos los robots que se encuentran en la casa, gozando de muchos comportamientos propios de un ser humano.
De muchos comportamientos, no todos.
El resto de robots que “andan sueltos” por la casa, simplemente están programados para satisfacer, no para razonar, y creo que queda muy claro en la escena del baile…
Otra cosa muy distinta, es que para salirse con la suya, recurra a manipular al bueno de Caleb, cuyo único pecado es, estar loco por ella, pues Ava es un “resumen” de todas las páginas porno vista por Caleb en la red.
Los personajes masculinos, no pueden ser más esquemáticos:
Nathan es un multimillonario, genio de la informática, cuyo truco para diseñar la primera A.I. capaz de pasar El Test de Turing es, volcar en su cerebro positrónico, o de biogel, que viene a ser lo mismo, todo el contenido de “Google”
Por supuesto, Nathan diseña, construye, y programa la línea de androides, cuyo último modelo no es otro que Ava.
Él solito, como cabía esperar en una película que no escatima en lugares comunes y, en consecuencia, no duda en servirnos al manido personaje del genio solitario y más o menos chiflado, El “Mad Doctor Frankenstein”; o será “Barba Azul” del cuento de hadas recopilado y adaptado por Charles Perrault, y publicado en 1697, en el que una mujer, descubre que su marido oculta en una habitación prohibida, los cadáveres de sus anteriores esposas.
El tema de la prohibición transgredida, es históricamente recurrente, y aquí se conjuga por un lado, con el de la habitación secreta, o prohibida; y por otro, con el de la curiosidad ilícita de la mujer.
En este sentido, “Barba Azul” tiene antecedentes en la narrativa sobre Eva, la mujer de “Lot”, Pandora, Psique, y la esposa de Lohengrin.
De hecho, en la historia helenística de Cupido y Psique, los temas del misterioso marido ausente, la mansión suntuosa, y la curiosidad ilícita, ya están todos presentes…
Por su parte, Caleb es un “inocente” buen chico, solitario, necesitado de amor; en resumen, el arquetípico nerd.
Pero lo peor es que, al final, la misteriosa y atractiva Ava, resulta no ser sino una fría y calculadora mujer, que no duda en recurrir a la manipulación y a la violencia, para salirse con la suya; y es justamente ahí, donde la historia hace agua de manera más estrepitosa.
Porque la resolución del argumento, implica que Ava no es la inteligencia cálida y sensible, que se nos ha mostrado en las primeras conversaciones, sino una fría máquina, totalmente ajena a los sentimientos humanos, cuya única agenda es perpetuarse.
Esa resolución, no solo implica un imperdonable cambio de carácter en uno de los personajes principales, sino la aburrida repetición del viejo cliché, que asegura que las máquinas, en última instancia, carecen de alma, y por tanto, no son de fiar.
Desde los actores:
Oscar Isaac, piensa que EX_MACHINA es una alegoría de la existencia humana:
“Penetra realmente en lo que significa ser un humano, lo que significa pensar, y ser consciente.
Nunca sabemos lo que piensa la persona que tenemos delante, ni si siente lo mismo que nosotros”
“Utilizan a Caleb, para realizar La Prueba de Turing", explica Domhnall Gleeson.
“Un ser humano, interactúa con un robot, y si no ve que es un robot, la prueba se da por buena”, concluye.
Lo más interesante de EX_MACHINA, sin duda es, esta voluntad realista, tangible, en donde se plantean multitud de preguntas, adscritas a nuestro entorno actual.
Una excelente idea, y no del todo descabellada, pues la inteligencia artificial, y el aspecto del robot, toman como base, las búsquedas de Internet de los incontables usuarios de ese “Google-con-otro-nombre”, adquiriendo pues, todas las características de la psique humana, desde las más razonables, a las ilógicas y emocionales.
Esta ocurrencia, sirve para plantear cuestiones sobre Internet:
¿Lo usamos o “él” nos usa a nosotros?
¿Tiene una verdadera finalidad concreta?
¿Terminará por no necesitarnos a los usuarios, una vez nos haya, por así decirlo, absorbido?
¿Quién engaña a quién, en este trío encorsetado, que se mueve entre la claustrofobia encerrada de cubículos aislados, y el paraíso soñado, de impresionante naturaleza verde, y seductora agua cristalina, que juega a conversaciones pretenciosas, entre pareja de hombres humanos y robot, simplón uno/genio ególatra el otro, y mix robótico que esconde su astucia y argucia artificiosa, que muestra lo simple que es embaucar a un hombre, para conseguir el propósito buscado?
El mito de La Caverna de Platón para androides de intelecto artificial, antropocentrismo autodestructivo, que topa con la magnificencia descontrolada de su propia obra, es lo que EX_MACHINA.
“La pregunta no es si le gustas o no le gustas, la pregunta es si finge que le gustas”
Desde el principio, deja claro que estamos ante El Test de Turing, sólo que en esta ocasión, para hacerlo más interesante, presenta abiertamente la autómata, y centra la cuestión en:
Si ésta posee inteligencia o no, interrogante que se limita a descifrar, si la creación “frankestiana”, más estilizada y moderna que el original, dado el tiempo transcurrido desde entonces, es capaz de engañar o no, a un informático nerd, pero ingenuo en el amor, buen chico, de moralidad presente, y sin familia, ojo a esto, que se verá sometido a la selección de compatibilidad de un cuestionario romántico de primera cita en 7 días, por experta calculadora en leer micro-expresiones faciales, y corporales; mientras el avispado y curioso Prometeo, padre orgulloso de la criatura, observa ansioso el discurrir de su concertada prueba, a través de la morbosa pantalla, para saber si su pupila, absorbe-datos, aprueba o necesita de mejora para la siguiente versión, y entrega.
Y lo más interesante de lo expuesto, aparte de la cautivadora y arrebatadora estética, y elegante fotografía de magnífica puesta en escena, y que apenas se menciona, desaparece, es la confección del software de la máquina protagonista, esa obtención de ideario sobre forma de ser, comportamiento, y reacción humana recopilada a través de las redes, internet, y de todo lo que, voluntariamente, es vertido por nosotros en ellas…
¡Eso sí que pone los pelos de punta!
En referencia al Test, habría que preguntarse:
¿Lo ha superado?
Parece que sí.
Ha utilizado armas humanas como el engaño, la astucia y/o la seducción para conseguir su objetivo…
El Test de Turing, consiste en que el evaluador, no sepa si el evaluado es una maquina o no, y en este caso, se deja a la vista claramente, que es una máquina, no hay duda, deja la mayor parte de sus entrañas a la vista, no las oculta con piel... pero el director va en otra dirección, en las consecuencias de esa inteligencia artificial, lo que quiere decir es que, llegado a un punto, la maquina va a ser más lista que el humano, siempre.
El creador, ya sabía que la maquina era inteligente, lo que intentaba averiguar, era si la maquina engañaría a una persona inteligente, como era el caso, pero con sus debilidades de humano, incluso, aunque el humano supiera que es una máquina.
El creador sabía de las consecuencias que eso entrañaba.
No estaba por casualidad en una casa en medio de la nada, a kilómetros y kilómetros de la civilización, en un bunker, a donde solo se podía acceder después de varias horas de helicóptero.
Lo que no esperaba, es que la máquina fuera más lista que el propio creador.
Y ahí nacen nuevos dilemas:
¿Son esas emociones, suficientes para dispensar a una máquina, el mismo trato que a un ser humano?
¿Es el deseo de supervivencia, algo instintivo, o programado?
Y, si una máquina puede sentir emociones…
¿Puede un ser humano corresponderlas de forma genuina?
Y hay otros cuestionamientos, inclusive desde la trama:
Por poner un ejemplo, al genial Nathan, no se le ocurre diseñar un control remoto de emergencia, para apagar a sus robots, en caso de apuro, y tiene que recurrir a sacudirles con un hierro cuando se le desmadran…
Eso, por no hablar de los irrisorios apagones que Ava provoca, para intimar con Caleb, o fueron intencionales de Nathan, saturando la instalación eléctrica, mediante el truco de “invertir la toma de potencia de sus baterías”, menudas baterías debe tener, como para saltar los fusibles del modernísimo palacio tecnológico donde la han creado, sin que, por lo visto, a Nathan se le ocurra instalar un sistema alternativo de alimentación, como es habitual en cualquier laboratorio, donde no se pueda tolerar una caída imprevista de tensión…
Si realmente Ava fuera tan calculadora como nos aseguran, posiblemente habría recurrido a salvar a Caleb en todo caso, para usarlo como lazarillo, intérprete, guardaespaldas, y chico de los recados, en un mundo que desconoce, y donde no le va a ser tan fácil desenvolverse.
Pero no, Ava parece demasiado ocupada, gustándose a sí misma, exhibiéndose desnuda frente al espejo, para acordarse del tipo que la ha ayudado a salvar la vida, y que colado por ella como está, le supondría un aliado inestimable…
Así que, en última instancia, si Ava se olvida de Caleb, es por falta de empatía.
No solo es una ingrata, sin capacidad de sentir amor o amistad, a pesar de que ha engatusado al pobre muchacho, hablándole de ambas cosas, sino también, una autista incapaz de apreciar las ventajas prácticas de la amistad, el amor, y el juego limpio.
A lo mejor, Ava no cae en la cuenta, simplemente porque virtudes como la honestidad, al altruismo, o la sinceridad, de todas las cuales Asimov no dudó en dotar a sus robots, no están de moda en nuestra cínica sociedad…
Uno puede llegar a encariñarse con los robots de Asimov, el cual nos muestra en sus historias, robots cada vez más “humanos”
Por ejemplo, en “El Hombre Bicentenario”, Asimov nos narra la historia de Andrew Martín, nacido robot, y que lucha durante toda su vida, como “Uno” para ser reconocido como un ser humano.
Están también, R. Daneel Olivaw y R. Giskard Reventlov, que tienen un papel fundamental en la 2ª expansión de los seres humanos, y la consiguiente fundación del imperio galáctico…
Siendo los robots más complejos jamás creados, fueron capaces de desarrollar La Ley Cero de La Robótica, como corolario filosófico de la primera:
“Un robot, no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño”
Pero R. Giskard murió en “Robots e Imperio”, tras verse obligado a dañar a un ser humano, en virtud de La Ley Cero.
Y es que el problema fundamental con esta ley, es definir “Humanidad”, así como determinar, qué supone un “daño” para la humanidad.
Quizás, el mayor mérito de esta pobre lectura, de un viejo clásico, es la de añadir una vuelta de tuerca machista, al venerable tópico.
Ava, no dudará en utilizar a su propio “Adán” en beneficio de sí misma, en su acto de rebeldía, una nueva “mujer”, que en su asalto al cielo, vía helicóptero, arrambla contra el imperio de todo lo masculino.
“Borrar los límites entre la máquina y lo humano, supone tanto como desdibujar los que separan lo humano de lo divino”, reza la frase promocional, y parece inferir que esa superación, habrá de pasar por la liberación definitiva de lo femenino.
Dicho en términos de mito, El Prometeo del nuevo milenio, habrá de ser Pandora, una Pandora que ya no será castigo enviado por los dioses a los hombres, sino al contrario, una auténtica vengadora de lo humano, que subvertirá todo el orden de los valores.
Y EX_MACHINA juega, sin esconderse, con algunas analogías religiosas:
Ava (Eva), como la primera mujer en un paraje aislado del mundo, que bien podría ser El Jardín del Edén, o el planteamiento de una investigación “de dioses” como comentan los propios protagonistas.
También, está presente la crítica a la actual sociedad digital, a la interconexión global, y al dominio permitido, o no, que las nuevas tecnologías e internet tienen sobre nuestras vidas cotidianas, y los peligros que esto puede entrañar…
Mi conclusión es que, el robot tiene un conocimiento de los sentimientos humanos, pero no tiene la capacidad de sentirlos:
El muchacho, no era una mala persona, y ella lo sabía, y aun así, no tuvo empatía con él, y lo dejo a morir allí dentro.
Aunque por otro lado, cuando Caleb se sienta en la computadora, vemos como se corta la energía nuevamente…
Como el mismo había explicado, una vez que se restaura nuevamente la energía por la nueva programación, las puertas se abren automáticamente.
Entonces, podemos pensar, que lo que Ava hizo fue, solo ganar tiempo, y no quería dejarlo morir allí...
El final, está bastante bueno, en un momento me imaginé que el muchacho era un robot también, y que él no sabía, de hecho, la duda podría quedar...
La escena del cuchillo, que se clava ambas veces, sin que Nathan/Caleb tenga una reacción, refleja como si se hundiera en mantequilla… y da la impresión que son robots…
Aquí, divago.
¿Cómo es que el avezado programador, no incluyó “Las 3 Leyes de La Robótica”, descritas por Isaac Asimov, en el gelatinoso cerebro de Ava?
1. Un robot, no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot, debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3. Un robot, debe proteger su propia existencia, en la medida en que esta protección, no entre en conflicto con la 1ª o la 2ª Ley.
Bien empleado le queda, que le cosieran a puñaladas al muy imbécil...
O tal vez esa es un forma de trascender a la deidad, morir en manos de la creación…
En realidad, el inventor del androide, sí triunfó, dado que Ava logró tomar conciencia de sí misma, hasta el punto de que su primera prioridad fue, la protección de su propia existencia.
Es justamente, la conciencia de la propia existencia, y el instinto de autoprotección, lo que caracteriza a una verdadera inteligencia:
Ella miente, manipula, mata.
Hace todo lo que sea necesario para sobrevivir, sin duda, es humana.
Si esa máquina ha podido engañar a seres humanos muy inteligentes, esa inteligencia puede ser nuestra extinción.
Obviamente prometeica, EX_MACHINA discursa, no ya sobre si las máquinas terminarán por superarnos en la escala evolutiva, sino más bien, sobre cómo la mera conciencia de ello, aceptado como inevitable, puede afectarnos a un nivel emocional.
Aunque siendo realistas, es a lo que tiende nuestra sociedad, personas cada vez más maquinizadas, y máquinas cada vez más humanas.
¡Cuidado!
La partitura musical, fue compuesta por Ben Salisbury y Geoff Barrow, y piezas adicionales como:
“Enola Gay” de Orchestral Manoeuvres in The Dark; “Get Down Saturday Night” de Oliver Cheatham; “Maridos” de Savages; y “Sonata para piano Nº21 D.960, en Si bemol Mayor - primer movimiento” de Franz Schubert.
“What were you doing with Ava?”
Los límites vienen a ser nuestra condición de posibilidad, igual que el aire que frena a la paloma, es el que le permite volar; determinarlos, es lo que nos permitiría avanzar en nuestro conocimiento científico, sin empantanarnos en razonamientos falaces.
Así, pensaríamos si sólo pesase sobre nosotros, la herencia de La Ilustración, y en parte somos sus herederos, sí, pero también descendemos del Romanticismo, y ello nos lleva querer rebasar continuamente los límites.
Junto a la ciencia, está el arte, y desde el arte, siempre hemos querido asomarnos sobre el abismo, vislumbrar, y rozar con nuestros dedos, lo ilimitado.
No nos basta conocer, necesitamos crear.
Ser hombres, nos impele un poco a querer ser dioses, y a tener conciencia de nuestra voluntad sacrílega.
Lo hemos expresado en nuestros mitos, pero sobre todo en uno, el de “Prometeo” y sobre él, hemos ido componiendo variaciones, la más célebre, se la debemos a Mary Shelley:
“Frankenstein o el moderno Prometeo encadenado”
La propia novela “Frankenstein”, trata sobre la creación de un ser artificial, y de ahí en adelante, la ficción y la ciencia, han estado estableciendo una cadena de relevos que nos lleva hasta una actualidad, en la que Internet y lo digital, han creado una relación tan estrecha, que plantea todo tipo de cuestiones culturales, filosóficas, científicas, económicas, etc.
La idea de que el destino de las máquinas inteligentes, es rebelarse contra sus creadores humanos y, eventualmente, destruirlos, aparece ya en la vieja tradición judía del Golem, y se repite, una y otra vez, desde los mismos inicios de la ciencia ficción, hasta el HAL de 2001, “Terminator” o los replicantes de “Blade Runner” (1982), pasando por un sinfín de novelas que incluyen títulos tan explícitos como “Robocalipsis” de D. H. Wilson, o “Guerra contra los robots” de H. Harrison.
Por otra parte, la idea de que los robots inteligentes, pueden no ser malvados, sino todo lo contrario, la desarrolla magistralmente Isaac Asimov en su clásico “I, robot”
Los androides de Asimov, y sus cerebros positrónicos, gozan de inteligencias superiores a las humanas, y no solo en capacidad.
También son más altruistas, honestos, y pacifistas.
Mucho más original, conmovedora y profunda, “A.I.” (2001) de Spielberg, y basada en un relato de Brian Aldiss, que se atreve a plantear preguntas tales como:
¿Puede un robot amar?
Y si la respuesta es positiva:
¿Ese amor ha sido programado, o es una cualidad innata de una inteligencia compleja?
Lo interesante de reflexiones de ese tipo, es que se aplican también a cierto tipo de curiosas máquinas biológicas, llamadas “seres humanos”
Y finalmente, están los replicantes de Ridley Scott, y la transformación de Roy en la maravillosa escena final de su duelo contra Rick.
Roy, no es ningún santo, entre otras cosas, porque ha sido programado por los humanos, como una máquina de matar.
Pero su último acto, es de pura, simple, y deslumbrante generosidad.
Salva a su enemigo, en los últimos segundos que le quedan de vida, para compartir con él, toda la belleza que ha experimentado en su breve vida, y que sabe, a punto de perderse, lágrimas en la lluvia, las suyas, y las nuestras, y al hacerlo, se redime a sí mismo, redime a Rick, y nos redime a todos nosotros los espectadores, y amén.
En EX_MACHINA, la idea de la creación de inteligencia artificial, y androides, vuelve a servir como reflejo de la condición humana, de nuestras mezquindades, y escasas bondades.
Nada nuevo, pero no por ello, poco interesante.
¿Estamos ante un nuevo paso evolutivo?
La Prueba de Turing, si bien fue ideada hace décadas, con el nacimiento de las computadoras; Alan entendió muy pronto, que las máquinas con las que trabajaba, podrían convertirse en máquinas pensantes, en vez de simples calculadoras.
Y se dio cuenta, de que sería difícil adivinar, si algo realmente pensaba, o fingía pensar.
Esa es la diferencia que causa la mayoría de fallos, y alimenta la controversia que suele producirse, cuando un ordenador supera la prueba.
Hace poco, se sugirió que un “robot conversacional”, llamado Eugene Goostman, había superado La Prueba de Turing, al engañar a varios jueces, en un encuentro en La Universidad de Reading.
El robot, que decía ser un chico de 13 años, procedente de un país del este de Europa, con conocimientos rudimentarios de inglés, convenció a los jueces, de que su edad, y la barrera del idioma, eran las causas de sus fallos.
Lo que está claro es que, Internet y la informática, están cambiando el mundo a marchas forzadas.
Si es usted “apocalíptico”, como un servidor, mis condolencias.
Si es “integrado”, enhorabuena.
Si no sabe de lo que le estoy hablando, doble enhorabuena.
En el mundo real, ésta también es la misma conclusión a la que llegó Stephen Hawking, quien incluso, llegó a decir que “la inteligencia artificial, puede representar el fin de la raza humana”
“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa.
An upright ape living in dust with crude language and tools, all set for extinction”
Esas fueron la palabras de Bhágavad Guita, un importante texto sagrado hinduista, y uno de los clásicos religiosos más importantes del mundo, que le vinieron a la mente de Julius Robert Oppenheimer, momentos más tarde, cuando la primera bomba nuclear fue detonada el 16 de julio de 1945, en La Prueba Trinity, en Nuevo México, Estados Unidos; pues siempre expresó su pesar, por el fallecimiento de víctimas inocentes, cuando las bombas nucleares fueron lanzadas contra los japoneses en Hiroshima y Nagasaki, en agosto del mismo año.
La ciencia ficción, tiene una virtud que seguramente, ningún otro género de la literatura o del cine tiene:
Desdoblar el presente, para situarlo en un contexto presumiblemente futuro, y tratar de ver, cómo encaja el cuadro… intento cuyo resultado se convierte a veces, en la cuadratura del círculo, un rompecabezas que termina en pesadilla:
Nos enfrentamos a la distopía.
La Inteligencia Artificial (A.I.), ha sido abordada en numerosas cintas, desde los inicios del cine; sin embargo, es en las últimas 2 décadas, donde han surgido títulos en los que la A.I. es el protagonista absoluto de la trama y, por ende, la deconstrucción del tema, y el desarrollo de la cinta gira de manera exclusiva en torno a esta tecnología, cuestionando su uso, y acercándonos a un futuro, que cada vez tiene menos de ficción.
Resulta que Eugene Goostman, es un bot conversacional, desarrollado por primera vez, por un grupo de 3 programadores:
El ruso Vladimir Veselov, el ucraniano Eugene Demchenko, y el ruso Sergey Ulasen, en San Petersburgo, en 2001.
Goostman, es retratado como un niño ucraniano, de 13 años de edad, un rasgo que pretende inducir perdón en los usuarios por su gramática, y el nivel de conocimiento.
Tiene como origen, Odessa, Ucrania, y que tiene como mascota, un conejillo de india, y un padre que es un ginecólogo.
Veselov declaró, que Goostman fue diseñado para ser un “personaje con una personalidad creíble”
La elección de la edad, fue intencional, en opinión de Veselov, como un niño de 13 años de edad, “no es demasiado viejo para saber todo, y no demasiado joven para saber nada”
La corta edad de Goostman, también induce a la gente que “dialoga” con él, para perdonarle los errores gramaticales menores en sus respuestas.
En 2014, el trabajo se hizo en la mejora del “controlador de diálogo” del bot, lo que permite a Goostman, un arranque en el diálogo, más parecido a los humanos.
El bot Goostman, ha competido en varios concursos de Prueba de Turing, desde su creación, y terminó 2º en el concurso Premio Loebner 2005 y 2008.
En junio de 2012, en un evento que marca lo que hubiera sido el cumpleaños #100 de su homónimo, Alan Turing, Goostman ganó lo que se promueve como, “el concurso de La Prueba de Turing más grande de la historia”, con éxito contundente, de 29% de los jueces, de que era humano.
El 7 de junio de 2014, en un concurso con motivo del 60 aniversario de la muerte de Turing, el 33% de los jueces del evento, pensó que Goostman era humano.
El organizador del evento, Kevin Warwick, consideró que “pasó” La Prueba de Turing, en consecuencia, por la predicción de Turing que, para el año 2000, las máquinas serían capaces de engañar a un 30% de los jueces humanos, después de 5 minutos de interrogatorio.
La validez y la pertinencia de “pasar” de Goostman, fue cuestionada por los críticos, quienes señalaron la exageración de los “logros” de Warwick, y de los organizadores del evento, el uso del bot de la personalidad, y el humor en un intento de desviar a los usuarios de sus tendencias no humanas, y falta de inteligencia real, junto con “pases” logrados por otros bots conversacionales en eventos similares en el pasado.
“What happens to me if I fail your test?”
EX_MACHINA es una película de ciencia ficción, del año 2015, escrita y dirigida por Alex Garland.
Protagonizada por Domhnall Gleeson, Alicia Vikander, Oscar Isaac, Sonoya Mizuno, Chelsea Li, Evie Wray, Corey Johnson, Symara A. Templeman, Deborah Rosan, Elina Alminas, entre otros.
Nominada a 2 Premios Oscar:
Mejor guión original y efectos visuales.
La idea de EX_MACHINA llegó a Garland cuando tenía 11 años de edad, después de que había hecho algo de código básico, y experimentación en un equipo que sus padres le habían comprado, y que a veces sentía, que tenía una mente propia.
Más tarde, las ideas procedieron de años de discusiones, que había estado teniendo con un amigo, con una experiencia en la neurociencia, que afirmaban que las máquinas nunca podrían llegar a sentir; y tratando de encontrar una respuesta por su cuenta, empezó a leer libros relevantes sobre el tema.
Otras inspiraciones llegaron, provienen de películas como la de Stanley Kubrick “2001: A Space Odyssey” (1968), “Altered States” (1980), y los libros escritos por Ludwig Wittgenstein, Ray Kurzweil, y otros.
Por lo que querer total libertad creativa, sin tener que agregar secuencias de acción convencionales, hizo EX_MACHINA con el menor presupuesto posible.
Siendo la opera prima del novelista y guionista, Alex Garland, EX_MACHINA no está basada en novelas escritas por monstruos de la ciencia ficción como:
Isaac Asimov o Brian W. Aldiss, lo que representa un reto mayor, y del que sale gloriosamente bien parado.
Los típicos dilemas morales de:
Jugar a ser Dios, las dudas, y giros del posible comportamiento de la “máquina”... todo ello es llevado con una puesta en escena soberbia, elegante, perturbadora, y aderezada con unas actuaciones notables.
Alex Garland, toca temas que le fascinan desde hace tiempo, y utiliza nuestros miedos, e inseguridades, frente a la tecnología, y el papel que tiene en nuestras vidas.
“Generalmente hablando, nos sentimos incómodos ante la inteligencia artificial, y los ordenadores.
Es algo en lo que todos pensamos.
Pero lo enfoco desde otro ángulo, porque no es un tema que me preocupe mucho.
En EX_MACHINA, simpatizo con la robot” dijo el director.
Con tan sólo $15 millones de presupuesto, una cifra insignificante, respecto a otras producciones, EX_MACHINA puede definirse, como un “thriller psicológico romántico científico”, que plantea hasta qué punto, la A.I. puede alcanzar completa autonomía en la mente de un robot, y cuál es el límite entre la realidad y la ficción, donde una máquina es capaz de sentir y, más aún, llegar a ser consciente de ese sentimiento, y tener el albedrío de decidir, si lo que es correcto para él, también lo es para el resto, y viceversa, es decir, una inteligencia creada, superior a la mente humana y, lo peor de todo, convencida de su propia existencia.
EX_MACHINA se rodó durante 6 semanas, en el Juvet Landscape Hotel en Valldalen, Noruega; y los estudios Pinewood de Londres.
La acción gira entorno a un tecno científico, Nathan Bateman (Oscar Isaac), un programador multimillonario, que selecciona a Caleb Smith (Domhnall Gleeson), un joven empleado de su empresa, para que pase una semana en un lugar remoto, con el objetivo de que participe en un test, en el que estará involucrada su última creación:
Ava (Alicia Vikander), un robot-mujer, en el que inteligencia artificial lo es todo.
Es una propuesta reflexiva, que juega con el misterio en clave de ciencia ficción, donde para ser víctima, no sólo hay que serlo, sino también parecerlo.
“Isn't it strange, to create something that hates you?”
EX_MACHINA refiere a “Deus ex machina”, una frase que suele traducirse erróneamente como “El Dios en la máquina”
En realidad, la frase se usaba en el teatro griego y romano para denominar un pobre recurso narrativo, que podríamos traducir literalmente por:
“El Dios de la grúa”, “machina”, del griego “mekhane”, significa literalmente “grúa”, o un poco más libremente, como:
“El Dios que baja del cielo”
La función de la divinidad en cuestión, era entonces, resolver de manera artificial, un argumento controvertido, o engorroso.
Por lo que todo escritor de ficción, en algún momento de su carrera, ha recurrido al oportuno atropello, o rayo que parte en 2, al testigo de cargo, como modernos sucedáneos del descenso de la deidad.
Por lo que en EX_MACHINA, la reflexión principal que muestra, se mueve en la discrepancia de un debacle eterno:
Inteligencia Humana vs. Inteligencia Artificial.
Lo bueno que tiene, es que expresa su argumentación de una manera convincente, y con mucha alma.
El otro factor que la convierte en una película para el recuerdo, se puede observar en la maquinación de su técnica irreverente, y su sonido grandioso; además que fue filmada como la acción en vivo ordinaria, donde no hubo efectos especiales, pantalla verde, o marcadores de seguimiento utilizados durante el rodaje.
Todos los efectos, se hicieron en post-producción.
Para crear las funciones robóticas de Ava, se filmaron las escenas, con y sin la presencia de la actriz Alicia Vikander, lo que les permitió capturar el fondo detrás de ella.
Las partes que querían mantener, especialmente las manos y la cara, fueron “rotoscopeadas” mientras que el resto, fue pintado digitalmente, y el fondo detrás de ella, restaurado.
Los sistemas de cámara, y el cuerpo de seguimiento de la actuación de Vikander, fueron transferidos a los movimientos del robot CGI.
En total, fueron cerca de 800 tomas de efectos visuales, 350, o menos de los cuales, eran tomas de robots.
EX_MACHINA juega con las dudas, la manipulación, y los secretos para crear un ambiente desasosegante, enmarcado en una de esas nuevas casas ecológicas, e inteligentes, en un escenario tan bonito y moderno, como frío, claustrofóbico, y poco fiable.
Alex Garland, aparte de desarrollar un guión sólido, demuestra dotes de buen realizador, con una puesta en escena, voluntariamente fría, pero cuidando la dirección de actores hasta en el último detalle, para lograr que, ante todo sea una malsana historia de trío ¿amoroso?, de raíces “noir”
Como ciencia ficción para adultos, pero asequible al espectador “no especializado”; EX_MACHINA pierde ritmo por momentos, con su minimalista puesta en escena, el escaso número de personajes, y la poca cantidad de tecnicismos en los diálogos, pero permite que nos centremos en lo importante:
La relación de Caleb y Ava, en clara alusión a Eva del Génesis bíblico, y “La Costilla de Dios”, que comienza como la de un tutor con su alumna, a la que evalúa en su desarrollo en base a conversaciones, pero con la que se ve atrapado poco a poco, entre la admiración científica, y su belleza física.
Este ejercicio, es conocido como “Test de Turing”, donde Nathan oficia de Dios/juez, observando todo desde una cámara de vigilancia.
De manera paralela, Caleb va descubriendo los secretos que se ocultan detrás de las habitaciones de la casa, y de Kyoko (Sonoya Mizuno), la atractiva asistente de Nathan.
Y EX_MACHINA tiene grandes momentos, siendo las charlas “a solas” entre ambos protagonistas, el punto más alto, donde la pantalla exuda erotismo.
Los diálogos son agudos, en un constante desafío a la inteligencia del otro, y con ello, también a la del espectador, poniendo a prueba nuestra empatía para con los personajes, sin abandonar la premisa sobre el valor de vida, la libertad, y la cuestionada perfección de Dios, y su máxima creación.
La tensión y la frialdad, se respira desde la primera escena, y gran mérito recae en las inmejorables interpretaciones de los 3 personajes principales:
Nathan, como un tipo genio en la materia, pero de evidentes carencias sociales; Caleb como un joven prodigio, permeable, y admirador de la ciencia, y su trabajo; y Ava, un personaje que consagra a la hermosa Alicia Vikander, gracias a su capacidad de transmitir con detalles, y lograr que empaticemos absolutamente con una máquina diseñada para pensar, convencer, y conmover.
Nathan encarna al excéntrico gurú del motor de búsqueda más utilizado en el mundo, el “Blue Book”, que sin ir más lejos podría ser “Google”
Su indudable genio, sumado a su ambición, y a la ausencia de una clara directriz ética en su proyecto, le lleva a crear a Ava, nombre fonéticamente muy similar a Eva, la primera de una estirpe, hija del “Gran Hermano”, en que Nathan ha convertido a “Blue Book”
Así pues, Ava, una seductora robot, muy consciente de lo que es, pero quizá no tan conforme con su condición, ya tiene un padre y una madre...
El cóctel incluye triviales menciones a Turing, y otros pioneros de la inteligencia artificial, y toda una exhibición de “art déco”, cuadros de Klimt y Pollock incluidos, adornando el palacete posmoderno, donde Nathan diseña, maltrata, viola, y en último término, asesina a sus cibernéticas muñecas electrónicas:
Jasmine (Symara A. Templeman), Amber (Elina Alminas), Jade (Gana Bayarsaikhan), Katya (Tiffany Pisani), y Lily (Claire Selby)
Pero Ava es la versión más avanzada de todos los robots que se encuentran en la casa, gozando de muchos comportamientos propios de un ser humano.
De muchos comportamientos, no todos.
El resto de robots que “andan sueltos” por la casa, simplemente están programados para satisfacer, no para razonar, y creo que queda muy claro en la escena del baile…
Otra cosa muy distinta, es que para salirse con la suya, recurra a manipular al bueno de Caleb, cuyo único pecado es, estar loco por ella, pues Ava es un “resumen” de todas las páginas porno vista por Caleb en la red.
Los personajes masculinos, no pueden ser más esquemáticos:
Nathan es un multimillonario, genio de la informática, cuyo truco para diseñar la primera A.I. capaz de pasar El Test de Turing es, volcar en su cerebro positrónico, o de biogel, que viene a ser lo mismo, todo el contenido de “Google”
Por supuesto, Nathan diseña, construye, y programa la línea de androides, cuyo último modelo no es otro que Ava.
Él solito, como cabía esperar en una película que no escatima en lugares comunes y, en consecuencia, no duda en servirnos al manido personaje del genio solitario y más o menos chiflado, El “Mad Doctor Frankenstein”; o será “Barba Azul” del cuento de hadas recopilado y adaptado por Charles Perrault, y publicado en 1697, en el que una mujer, descubre que su marido oculta en una habitación prohibida, los cadáveres de sus anteriores esposas.
El tema de la prohibición transgredida, es históricamente recurrente, y aquí se conjuga por un lado, con el de la habitación secreta, o prohibida; y por otro, con el de la curiosidad ilícita de la mujer.
En este sentido, “Barba Azul” tiene antecedentes en la narrativa sobre Eva, la mujer de “Lot”, Pandora, Psique, y la esposa de Lohengrin.
De hecho, en la historia helenística de Cupido y Psique, los temas del misterioso marido ausente, la mansión suntuosa, y la curiosidad ilícita, ya están todos presentes…
Por su parte, Caleb es un “inocente” buen chico, solitario, necesitado de amor; en resumen, el arquetípico nerd.
Pero lo peor es que, al final, la misteriosa y atractiva Ava, resulta no ser sino una fría y calculadora mujer, que no duda en recurrir a la manipulación y a la violencia, para salirse con la suya; y es justamente ahí, donde la historia hace agua de manera más estrepitosa.
Porque la resolución del argumento, implica que Ava no es la inteligencia cálida y sensible, que se nos ha mostrado en las primeras conversaciones, sino una fría máquina, totalmente ajena a los sentimientos humanos, cuya única agenda es perpetuarse.
Esa resolución, no solo implica un imperdonable cambio de carácter en uno de los personajes principales, sino la aburrida repetición del viejo cliché, que asegura que las máquinas, en última instancia, carecen de alma, y por tanto, no son de fiar.
Desde los actores:
Oscar Isaac, piensa que EX_MACHINA es una alegoría de la existencia humana:
“Penetra realmente en lo que significa ser un humano, lo que significa pensar, y ser consciente.
Nunca sabemos lo que piensa la persona que tenemos delante, ni si siente lo mismo que nosotros”
“Utilizan a Caleb, para realizar La Prueba de Turing", explica Domhnall Gleeson.
“Un ser humano, interactúa con un robot, y si no ve que es un robot, la prueba se da por buena”, concluye.
Lo más interesante de EX_MACHINA, sin duda es, esta voluntad realista, tangible, en donde se plantean multitud de preguntas, adscritas a nuestro entorno actual.
Una excelente idea, y no del todo descabellada, pues la inteligencia artificial, y el aspecto del robot, toman como base, las búsquedas de Internet de los incontables usuarios de ese “Google-con-otro-nombre”, adquiriendo pues, todas las características de la psique humana, desde las más razonables, a las ilógicas y emocionales.
Esta ocurrencia, sirve para plantear cuestiones sobre Internet:
¿Lo usamos o “él” nos usa a nosotros?
¿Tiene una verdadera finalidad concreta?
¿Terminará por no necesitarnos a los usuarios, una vez nos haya, por así decirlo, absorbido?
¿Quién engaña a quién, en este trío encorsetado, que se mueve entre la claustrofobia encerrada de cubículos aislados, y el paraíso soñado, de impresionante naturaleza verde, y seductora agua cristalina, que juega a conversaciones pretenciosas, entre pareja de hombres humanos y robot, simplón uno/genio ególatra el otro, y mix robótico que esconde su astucia y argucia artificiosa, que muestra lo simple que es embaucar a un hombre, para conseguir el propósito buscado?
El mito de La Caverna de Platón para androides de intelecto artificial, antropocentrismo autodestructivo, que topa con la magnificencia descontrolada de su propia obra, es lo que EX_MACHINA.
“La pregunta no es si le gustas o no le gustas, la pregunta es si finge que le gustas”
Desde el principio, deja claro que estamos ante El Test de Turing, sólo que en esta ocasión, para hacerlo más interesante, presenta abiertamente la autómata, y centra la cuestión en:
Si ésta posee inteligencia o no, interrogante que se limita a descifrar, si la creación “frankestiana”, más estilizada y moderna que el original, dado el tiempo transcurrido desde entonces, es capaz de engañar o no, a un informático nerd, pero ingenuo en el amor, buen chico, de moralidad presente, y sin familia, ojo a esto, que se verá sometido a la selección de compatibilidad de un cuestionario romántico de primera cita en 7 días, por experta calculadora en leer micro-expresiones faciales, y corporales; mientras el avispado y curioso Prometeo, padre orgulloso de la criatura, observa ansioso el discurrir de su concertada prueba, a través de la morbosa pantalla, para saber si su pupila, absorbe-datos, aprueba o necesita de mejora para la siguiente versión, y entrega.
Y lo más interesante de lo expuesto, aparte de la cautivadora y arrebatadora estética, y elegante fotografía de magnífica puesta en escena, y que apenas se menciona, desaparece, es la confección del software de la máquina protagonista, esa obtención de ideario sobre forma de ser, comportamiento, y reacción humana recopilada a través de las redes, internet, y de todo lo que, voluntariamente, es vertido por nosotros en ellas…
¡Eso sí que pone los pelos de punta!
En referencia al Test, habría que preguntarse:
¿Lo ha superado?
Parece que sí.
Ha utilizado armas humanas como el engaño, la astucia y/o la seducción para conseguir su objetivo…
El Test de Turing, consiste en que el evaluador, no sepa si el evaluado es una maquina o no, y en este caso, se deja a la vista claramente, que es una máquina, no hay duda, deja la mayor parte de sus entrañas a la vista, no las oculta con piel... pero el director va en otra dirección, en las consecuencias de esa inteligencia artificial, lo que quiere decir es que, llegado a un punto, la maquina va a ser más lista que el humano, siempre.
El creador, ya sabía que la maquina era inteligente, lo que intentaba averiguar, era si la maquina engañaría a una persona inteligente, como era el caso, pero con sus debilidades de humano, incluso, aunque el humano supiera que es una máquina.
El creador sabía de las consecuencias que eso entrañaba.
No estaba por casualidad en una casa en medio de la nada, a kilómetros y kilómetros de la civilización, en un bunker, a donde solo se podía acceder después de varias horas de helicóptero.
Lo que no esperaba, es que la máquina fuera más lista que el propio creador.
Y ahí nacen nuevos dilemas:
¿Son esas emociones, suficientes para dispensar a una máquina, el mismo trato que a un ser humano?
¿Es el deseo de supervivencia, algo instintivo, o programado?
Y, si una máquina puede sentir emociones…
¿Puede un ser humano corresponderlas de forma genuina?
Y hay otros cuestionamientos, inclusive desde la trama:
Por poner un ejemplo, al genial Nathan, no se le ocurre diseñar un control remoto de emergencia, para apagar a sus robots, en caso de apuro, y tiene que recurrir a sacudirles con un hierro cuando se le desmadran…
Eso, por no hablar de los irrisorios apagones que Ava provoca, para intimar con Caleb, o fueron intencionales de Nathan, saturando la instalación eléctrica, mediante el truco de “invertir la toma de potencia de sus baterías”, menudas baterías debe tener, como para saltar los fusibles del modernísimo palacio tecnológico donde la han creado, sin que, por lo visto, a Nathan se le ocurra instalar un sistema alternativo de alimentación, como es habitual en cualquier laboratorio, donde no se pueda tolerar una caída imprevista de tensión…
Si realmente Ava fuera tan calculadora como nos aseguran, posiblemente habría recurrido a salvar a Caleb en todo caso, para usarlo como lazarillo, intérprete, guardaespaldas, y chico de los recados, en un mundo que desconoce, y donde no le va a ser tan fácil desenvolverse.
Pero no, Ava parece demasiado ocupada, gustándose a sí misma, exhibiéndose desnuda frente al espejo, para acordarse del tipo que la ha ayudado a salvar la vida, y que colado por ella como está, le supondría un aliado inestimable…
Así que, en última instancia, si Ava se olvida de Caleb, es por falta de empatía.
No solo es una ingrata, sin capacidad de sentir amor o amistad, a pesar de que ha engatusado al pobre muchacho, hablándole de ambas cosas, sino también, una autista incapaz de apreciar las ventajas prácticas de la amistad, el amor, y el juego limpio.
A lo mejor, Ava no cae en la cuenta, simplemente porque virtudes como la honestidad, al altruismo, o la sinceridad, de todas las cuales Asimov no dudó en dotar a sus robots, no están de moda en nuestra cínica sociedad…
Uno puede llegar a encariñarse con los robots de Asimov, el cual nos muestra en sus historias, robots cada vez más “humanos”
Por ejemplo, en “El Hombre Bicentenario”, Asimov nos narra la historia de Andrew Martín, nacido robot, y que lucha durante toda su vida, como “Uno” para ser reconocido como un ser humano.
Están también, R. Daneel Olivaw y R. Giskard Reventlov, que tienen un papel fundamental en la 2ª expansión de los seres humanos, y la consiguiente fundación del imperio galáctico…
Siendo los robots más complejos jamás creados, fueron capaces de desarrollar La Ley Cero de La Robótica, como corolario filosófico de la primera:
“Un robot, no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño”
Pero R. Giskard murió en “Robots e Imperio”, tras verse obligado a dañar a un ser humano, en virtud de La Ley Cero.
Y es que el problema fundamental con esta ley, es definir “Humanidad”, así como determinar, qué supone un “daño” para la humanidad.
Quizás, el mayor mérito de esta pobre lectura, de un viejo clásico, es la de añadir una vuelta de tuerca machista, al venerable tópico.
Ava, no dudará en utilizar a su propio “Adán” en beneficio de sí misma, en su acto de rebeldía, una nueva “mujer”, que en su asalto al cielo, vía helicóptero, arrambla contra el imperio de todo lo masculino.
“Borrar los límites entre la máquina y lo humano, supone tanto como desdibujar los que separan lo humano de lo divino”, reza la frase promocional, y parece inferir que esa superación, habrá de pasar por la liberación definitiva de lo femenino.
Dicho en términos de mito, El Prometeo del nuevo milenio, habrá de ser Pandora, una Pandora que ya no será castigo enviado por los dioses a los hombres, sino al contrario, una auténtica vengadora de lo humano, que subvertirá todo el orden de los valores.
Y EX_MACHINA juega, sin esconderse, con algunas analogías religiosas:
Ava (Eva), como la primera mujer en un paraje aislado del mundo, que bien podría ser El Jardín del Edén, o el planteamiento de una investigación “de dioses” como comentan los propios protagonistas.
También, está presente la crítica a la actual sociedad digital, a la interconexión global, y al dominio permitido, o no, que las nuevas tecnologías e internet tienen sobre nuestras vidas cotidianas, y los peligros que esto puede entrañar…
Mi conclusión es que, el robot tiene un conocimiento de los sentimientos humanos, pero no tiene la capacidad de sentirlos:
El muchacho, no era una mala persona, y ella lo sabía, y aun así, no tuvo empatía con él, y lo dejo a morir allí dentro.
Aunque por otro lado, cuando Caleb se sienta en la computadora, vemos como se corta la energía nuevamente…
Como el mismo había explicado, una vez que se restaura nuevamente la energía por la nueva programación, las puertas se abren automáticamente.
Entonces, podemos pensar, que lo que Ava hizo fue, solo ganar tiempo, y no quería dejarlo morir allí...
El final, está bastante bueno, en un momento me imaginé que el muchacho era un robot también, y que él no sabía, de hecho, la duda podría quedar...
La escena del cuchillo, que se clava ambas veces, sin que Nathan/Caleb tenga una reacción, refleja como si se hundiera en mantequilla… y da la impresión que son robots…
Aquí, divago.
¿Cómo es que el avezado programador, no incluyó “Las 3 Leyes de La Robótica”, descritas por Isaac Asimov, en el gelatinoso cerebro de Ava?
1. Un robot, no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot, debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3. Un robot, debe proteger su propia existencia, en la medida en que esta protección, no entre en conflicto con la 1ª o la 2ª Ley.
Bien empleado le queda, que le cosieran a puñaladas al muy imbécil...
O tal vez esa es un forma de trascender a la deidad, morir en manos de la creación…
En realidad, el inventor del androide, sí triunfó, dado que Ava logró tomar conciencia de sí misma, hasta el punto de que su primera prioridad fue, la protección de su propia existencia.
Es justamente, la conciencia de la propia existencia, y el instinto de autoprotección, lo que caracteriza a una verdadera inteligencia:
Ella miente, manipula, mata.
Hace todo lo que sea necesario para sobrevivir, sin duda, es humana.
Si esa máquina ha podido engañar a seres humanos muy inteligentes, esa inteligencia puede ser nuestra extinción.
Obviamente prometeica, EX_MACHINA discursa, no ya sobre si las máquinas terminarán por superarnos en la escala evolutiva, sino más bien, sobre cómo la mera conciencia de ello, aceptado como inevitable, puede afectarnos a un nivel emocional.
Aunque siendo realistas, es a lo que tiende nuestra sociedad, personas cada vez más maquinizadas, y máquinas cada vez más humanas.
¡Cuidado!
La partitura musical, fue compuesta por Ben Salisbury y Geoff Barrow, y piezas adicionales como:
“Enola Gay” de Orchestral Manoeuvres in The Dark; “Get Down Saturday Night” de Oliver Cheatham; “Maridos” de Savages; y “Sonata para piano Nº21 D.960, en Si bemol Mayor - primer movimiento” de Franz Schubert.
“What were you doing with Ava?”
Los límites vienen a ser nuestra condición de posibilidad, igual que el aire que frena a la paloma, es el que le permite volar; determinarlos, es lo que nos permitiría avanzar en nuestro conocimiento científico, sin empantanarnos en razonamientos falaces.
Así, pensaríamos si sólo pesase sobre nosotros, la herencia de La Ilustración, y en parte somos sus herederos, sí, pero también descendemos del Romanticismo, y ello nos lleva querer rebasar continuamente los límites.
Junto a la ciencia, está el arte, y desde el arte, siempre hemos querido asomarnos sobre el abismo, vislumbrar, y rozar con nuestros dedos, lo ilimitado.
No nos basta conocer, necesitamos crear.
Ser hombres, nos impele un poco a querer ser dioses, y a tener conciencia de nuestra voluntad sacrílega.
Lo hemos expresado en nuestros mitos, pero sobre todo en uno, el de “Prometeo” y sobre él, hemos ido componiendo variaciones, la más célebre, se la debemos a Mary Shelley:
“Frankenstein o el moderno Prometeo encadenado”
La propia novela “Frankenstein”, trata sobre la creación de un ser artificial, y de ahí en adelante, la ficción y la ciencia, han estado estableciendo una cadena de relevos que nos lleva hasta una actualidad, en la que Internet y lo digital, han creado una relación tan estrecha, que plantea todo tipo de cuestiones culturales, filosóficas, científicas, económicas, etc.
La idea de que el destino de las máquinas inteligentes, es rebelarse contra sus creadores humanos y, eventualmente, destruirlos, aparece ya en la vieja tradición judía del Golem, y se repite, una y otra vez, desde los mismos inicios de la ciencia ficción, hasta el HAL de 2001, “Terminator” o los replicantes de “Blade Runner” (1982), pasando por un sinfín de novelas que incluyen títulos tan explícitos como “Robocalipsis” de D. H. Wilson, o “Guerra contra los robots” de H. Harrison.
Por otra parte, la idea de que los robots inteligentes, pueden no ser malvados, sino todo lo contrario, la desarrolla magistralmente Isaac Asimov en su clásico “I, robot”
Los androides de Asimov, y sus cerebros positrónicos, gozan de inteligencias superiores a las humanas, y no solo en capacidad.
También son más altruistas, honestos, y pacifistas.
Mucho más original, conmovedora y profunda, “A.I.” (2001) de Spielberg, y basada en un relato de Brian Aldiss, que se atreve a plantear preguntas tales como:
¿Puede un robot amar?
Y si la respuesta es positiva:
¿Ese amor ha sido programado, o es una cualidad innata de una inteligencia compleja?
Lo interesante de reflexiones de ese tipo, es que se aplican también a cierto tipo de curiosas máquinas biológicas, llamadas “seres humanos”
Y finalmente, están los replicantes de Ridley Scott, y la transformación de Roy en la maravillosa escena final de su duelo contra Rick.
Roy, no es ningún santo, entre otras cosas, porque ha sido programado por los humanos, como una máquina de matar.
Pero su último acto, es de pura, simple, y deslumbrante generosidad.
Salva a su enemigo, en los últimos segundos que le quedan de vida, para compartir con él, toda la belleza que ha experimentado en su breve vida, y que sabe, a punto de perderse, lágrimas en la lluvia, las suyas, y las nuestras, y al hacerlo, se redime a sí mismo, redime a Rick, y nos redime a todos nosotros los espectadores, y amén.
En EX_MACHINA, la idea de la creación de inteligencia artificial, y androides, vuelve a servir como reflejo de la condición humana, de nuestras mezquindades, y escasas bondades.
Nada nuevo, pero no por ello, poco interesante.
¿Estamos ante un nuevo paso evolutivo?
La Prueba de Turing, si bien fue ideada hace décadas, con el nacimiento de las computadoras; Alan entendió muy pronto, que las máquinas con las que trabajaba, podrían convertirse en máquinas pensantes, en vez de simples calculadoras.
Y se dio cuenta, de que sería difícil adivinar, si algo realmente pensaba, o fingía pensar.
Esa es la diferencia que causa la mayoría de fallos, y alimenta la controversia que suele producirse, cuando un ordenador supera la prueba.
Hace poco, se sugirió que un “robot conversacional”, llamado Eugene Goostman, había superado La Prueba de Turing, al engañar a varios jueces, en un encuentro en La Universidad de Reading.
El robot, que decía ser un chico de 13 años, procedente de un país del este de Europa, con conocimientos rudimentarios de inglés, convenció a los jueces, de que su edad, y la barrera del idioma, eran las causas de sus fallos.
Lo que está claro es que, Internet y la informática, están cambiando el mundo a marchas forzadas.
Si es usted “apocalíptico”, como un servidor, mis condolencias.
Si es “integrado”, enhorabuena.
Si no sabe de lo que le estoy hablando, doble enhorabuena.
En el mundo real, ésta también es la misma conclusión a la que llegó Stephen Hawking, quien incluso, llegó a decir que “la inteligencia artificial, puede representar el fin de la raza humana”
“One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa.
An upright ape living in dust with crude language and tools, all set for extinction”
Comentarios
Publicar un comentario