EX MACHINA

EX MACHINA

I. INTELIGENCIA ARTIFICIAL

1.En 1989 el físico-matemático Roger Penrose publica el libro La nueva mente del emperador que constituye una devastadora crítica a los defensores del modelo fuerte de Inteligencia Artificial, según el cual podremos llegar a crear una máquina igual o superior a un ser humano. Penrose ataca este modelo argumentando que la conciencia humana no sigue un patrón algorítmico y que por esta razón no se podrá reproducir artificialmente.

• 1. Busca qué diferencias existen entre estos dos modos de entender la IA y haz una breve exposición de las teorías de alguno de los representantes de cada una de ellas.

  2. ¿Podrías definir con precisión qué es un algoritmo? ¿Qué significa que el pensamiento sea algorítmico o no lo sea?

  3. ¿Es AVA un ejemplo de IA del modelo fuerte o del débil? Justifica tu respuesta.

2. La teoría de las inteligencias múltiples es un modelo de concepción de la mente propuesto en 1983 por Howard Gardner, profesor de la Universidad de Harvard, para el que hay distintos tipos de inteligencia. Según este autor existirían inteligencias tan diferentes entre sí como la inteligencia musical o incluso la corporal. Para otros cabría incluso hablar de inteligencia emocional. Aunque esta teoría tiene muchos detractores, por falta de rigor científco y por acabar denominando inteligencia casi a cualquier capacidad humana, lo cierto es que resulta muy útil para pensar sobre los personajes de nuestra película, ya que la idea misma de lo que es humano parece establecerse más allá de lo que tradicionalmente se ha denominado inteligencia, a saber, fundamentalmente la capacidad lógico-matemática.

Según la teoría de juegos Ava habría sido la más inteligente, ya que gana el juego --es la única que no muere. Sin embargo, si sometiésemos a los tipos de inteligencia de Gardner a los personajes, podemos intentar hacer una tabla de inteligencias múltiples. ¿Quién ganaría en un duelo a tres? Puntúa de uno a tres (tres para el que más competente te parezca) y suma los que tendrían cada uno, a ver quién gana:

b) Desde esta nueva perspectiva: ¿Puede una máquina ser inteligente? ¿En qué tipos de inteligencia es más difícil imitar al ser humano? ¿En cuáles Ava demuestra ser muy humana?

3. A lo largo de la película aparecen enumeradas capacidades de Ava que son exclusivamente humanas o, como mínimo, animales: lenguaje, inteligencia verbal e instrumental, consciencia, deseo de libertad, humor, instinto de conservación, empatía, aprendizaje, mentira, arte, sexualidad, manipulación y engaño.

• 1. ¿Podrías decir cómo se demuestra en la película que las tiene? ¿Encuentras alguna que no esté en la lista?

  2. ¿Crees que la capacidad de hacer un chiste es un síntoma de inteligencia tal y como explica la película? Justifica tu respuesta. ¿Por qué Caleb dice que el humor es un “síntoma de no autismo” y que sólo es posible “si Ava es consciente de su propia mente y de la mía”?

  3. ¿Crees que lo pintado por Ava es interesante para ver qué es lo que elige?

II. TEST DE TURING

4. La película reproduce en realidad una nueva versión del Test de Turing. Por un lado, se trata de que demostrar la imposibilidad de distinguir entre la inteligencia artificial de Ava y la inteligencia “natural” de cualquier ser humano pero, por otro, el test presenta diferencias fundamentales con el de Turing:

• 1. Busca información sobre el test de Turing e intenta responder en qué se diferencia con esta variación que presenta la película.

  2. Al final de la película se demuestra que Caleb tenía razón al afirmar del test de Nathan que es “un bucle cerrado”, “como probar un programa de ajedrez sólo jugando al ajedrez”. ¿Qué significa esto y por qué Caleb tenía razón al afirmarlo?

  3. ¿Cuál es el verdadero test de la película?

5. Lee estas noticias e intenta escribir en unas líneas qué comentario podría hacer Nathan tras haberlas leído.

• 1. Un ordenador logra superar el test de Turing

  2. La inteligencia artificial de Microsoft se vuelve nazi y racista en un día

6. CAPTCHA son las siglas de Completely Automated Public Turing test to tell Computers and Humans Apart (prueba de Turing completamente automática y pública para diferenciar computadoras de humanos). Este test es controlado por una máquina, en lugar de por un humano como en la prueba de Turing. Por ello, consiste en una prueba de Turing inversa.

• 1. ¿Para qué sirve? Puedes investigarlo aquí mismo.

  2. ¿Se te ocurren otras posibles aplicaciones futuras de este test?

III. BIG DATA Y LIBERTAD

7.El concepto de Big Data o Datos masivos hace referencia tanto al almacenamiento de grandes cantidades de datos como a los procedimientos usados para encontrar patrones repetitivos dentro de esos datos. La capacidad de manejar datos a gran escala es un fenómeno muy actual y algunos hablan ya de toda una revolución tecnológica e incluso existencial.

• 1. Haz una reflexión por escrito sobre cómo esta ciencia de los datos a escala planetaria está presente en la película. [Hardware/Software; Ava y la máquina de la verdad; muñeca hinchable hecha a la medida de Caleb por el registro de sus gustos pornográficos; reacción de Ava ante el relato de la muerte de los padres de Caleb]

8. La película gira en torno a la obra del creador de Blue Book, una especie de buscador Google hecho por un niño prodigio de la programación (uno de los protagonistas, Nathan) que ha hecho posible la creación de un sorprendente ejemplar de inteligencia artificial: Ava. Tal y como explica la propia Ava, el motor de búsqueda lleva el nombre de uno de los libros del filósofo Wittgenstein, el denominado Cuaderno Azul:

• 1. ¿Qué relación puede existir entre la filosofía del lenguaje de Wittgenstein y el contenido de la película?

  2. ¿Por qué razón Blue Book es imprescindible para crear a Ava?

  3. ¿Por qué argumenta Nathan que un buscador no es sólo “un mapa de lo que piensa la gente sino de cómo piensa la gente”?

  4. Busca información acerca del deep learning (puedes empezar por este artículo) y discute si la película tiene fundamento científico.

  5. Investiga quiénes son Edward Snowden y Julian Assange y qué es lo que han denunciado.

9.En la película hay muchas reflexiones sobre la libertad. Una de ellas tiene lugar en la descripción que hace Caleb sobre el cuarto de Mary (escena en la que le cuenta a Ava la diferencia entre el cuarto en blanco y negro y el exterior en color):

• 1. Explica en qué consistió este experimento “mental” del cuarto de Mary.

  2. La película lo reelabora en otro sentido: ¿sabrías decir en cuál?

  3. ¿Podrías establecer a su vez una comparación entre estos dos y este “experimento” de Henry Bergson en el que explica el concepto de vivencia?

Una persona puede estudiar minuciosamente el plano de París; estudiarlo muy bien; notar uno por uno los diferentes nombres de las calles; estudiar sus direcciones; luego puede estudiar los monumentos que hay en cada calle; puede estu­diar los planos de esos monumentos; puede repasar las series de las fotografías del Museo del Louvre, una por una. Des­pués de haber estudiado el plano y los monumentos, puede este hombre procurarse una visión de las perspectivas de Pa­rís, mediante una serie de fotografías tomadas de múltiples puntos de vista. Puede llegar de esa manera a tener una idea regularmente clara, muy clara, clarísima, detalladísima de París.

Esta idea podrá ir perfeccionándose cada vez más, con­forme los estudios de este hombre sean cada vez más minu­ciosos; pero siempre será una mera idea. En cambio, veinte minutos de paseo a pie por París, son una vivencia.

10. El mejor diálogo de la película se da frente al cuadro de Pollock. Dicho diálogo ha sido motivado por una discusión sobre por qué Nathan le ha dado sexualidad a su IA. Una reflexión en torno al género y la libertad humana que no tiene desperdicio. Ponlo en escena con un compañero en clase (uno hace de Caleb, otro de Nathan) y di con cuál de los dos estás de acuerdo (en definitiva, si eres estocástico o determinista, según la propia película aclara). Te los dividimos en tres diálogos para que puedas debatir sobre sus contenidos:

DIÁLOGO 1

Caleb: Tengo una pregunta. ¿Por qué le diste sexualidad? Una máquina no necesita género. Podría haber sido una caja gris.

Nathan: No, yo no estoy de acuerdo. ¿Puedes darme un ejemplo de consciencia de cualquier tipo, humana o animal, que exista sin una dimensión sexual?

—La sexualidad es una necesidad reproductiva evolutiva, sólo eso.

—¿Qué necesidad tiene una caja gris para interactuar con otra caja gris? ¿Puede darse la consciencia sin interacción? Además, la sexualidad es divertida. Si existe, ¿por qué no va a disfrutar?¿Quieres privarla de la oportunidad de enamorarse y follar?

DIÁLOGO 2

Caleb: Mi verdadera pregunta era: ¿le diste sexualidad como una estrategia de distracción? ¿Como un mago con una ayudante sexy?

Nathan: ¿Con el fin de nublar tu capacidad para juzgar su inteligencia?

—Exacto, contesta. ¿La programaste para que coqueteara conmigo?

—Si lo hubiera hecho, ¿habría sido trampa?

—¿No lo es?

—¿Cómo te gustan?

—¿Las chicas?

—¡No! Las ensaladas… Sí, las chicas. No contestes. Digamos que son las mulatas. Sólo como hipótesis. ¿Por qué es eso lo que te va? ¿Porque hiciste un análisiis detallado de todos los tipos sociales y sometiste ese análisis a un sistema de puntuación? ¡No! Simplemente te atraen las mulatas. Como consecuencia de una acumulación de estímulos externos que tú ni registraste cuando ellos se registraron en ti.

—¿La programaste para que yo le gustara o no?

—La programé para ser heterosexual, igual que tú fuiste programado para serlo

—Nadie me programó para ser hetero.

—¿Decidiste ser hetero? ¡Por favor! ¡Claro que fuiste programado! ¡Por la Naturaleza la Cultura o por ambas! Y en serio, Caleb, estás empezando a cabrearme porque es tu inseguridad la que habla, no tu intelecto.

DIÁLOGO 3

Nathan: Lo conoces, ¿verdad? Jackson Pollock, el pintor de las salpicaduras. Él dejaba la mente en blanco y su mano iba a donde quería, no era deliberado ni aleatorio, era algún lugar intermedio. Lo llamaban arte automático. (...) Utiliza tu intelecto: ¿Y si Pollock hubiera invertido el reto? ¿Y si en lugar de hacer arte sin pensar hubiera dicho “No soy capaz de pintar nada a menos que sepa exactamente por qué lo estoy haciendo. ¿Qué habría pasado?

Caleb: Que no habría hecho una sola raya.

Nathan: ¡Sí! ¡Este es mi chico! ¡No habría hecho una sola raya! El reto no es actuar automáticamente. Es encontrar una acción que no sea automática. Desde pintar, respirar, hablar hasta follar o...hasta enamorarse.

IV. ÉTICA

11.Existen otras muchas películas que hablan sobre inteligencia artificial, entre ellas Wall-E, A.I., Prometheus, Yo Robot, Moon por citar algunas de las últimas. En todas ellas aparece siempre algún problema moral que la existencia de la máquina plantea para el ser humano.

• 1. ¿Cuál crees que es el fundamental que arroja la existencia de Ava? [Ava le dice a Caleb: “Hay alguien que te pruebe a ti y pueda desconectarte”?/Prototipo Jasmine o Jade: “¿Por qué no me dejas salir?-automutilación]

12. Uno de los tópicos de la película reside en la frase que le dice Caleb: “Si has creado una máquina consciente no es la historia del hombre, es la historia de los dioses”.

• 1. ¿Por qué crees que Nathan está en parte autorizado a creerse el propio Dios?

  2. ¿Por qué podría tener derecho también a pensar que es, tal y como aparece en el delirium tremens que tiene, el mismísimo Prometeo?

  3. Ava mata a su creador (otro tópico del género): reflexiona sobre el sentido de este parricidio.

13.¿Por qué la película lleva como título Ex machina y no, por ejemplo, Ava?  Busca para ello el significado de esta antigua expresión latina [Deus ex machina].

14. Existen varios objetos interesantes en la película, por ejemplo la serie de máscaras colgadas en el pasillo. Tanto Caleb al llegar al búnker como Ava cuando logra salir de la estancia en la que ha estado encerrada las observan detenidamente.

• 1. ¿Sabrías describir qué son exactamente?

  2. ¿Qué representan en el interior del guión?

15. ¿Por qué Caleb se corta con una cuchilla? ¿Cómo se podría haber explicado dentro del  argumento de la película que él también hubiera sido otra criatura de Nathan?

16. ¿Qué le dice Ava a Kioko al escapar? Imagínalo y redáctalo.

17. Haz una descripción del rol femenino de la película [entre la mujer fatal y la esclava sexual].   

18. ¿Te parece que la película tiene un buen final? ¿Cómo la hubieras terminado tú?

19. El final de la película puede relacionarse con la salida de Sócrates de la caverna: ¿por qué?