‘Do You Trust This Computer?’, la película que advierte sobre los peligros de la IA

“La tecnología avanza mucho más rápido que la habilidad de proteger a nuestros ciudadanos”. Esa es la frase de apertura del catastrofista documental ‘Do You Trust This Computer?’, publicado en abril de 2018. Analizamos sus implicaciones sobre la inteligencia artificial.

¿Confías en las máquinas? podría ser una traducción al castellano del documental, que muestra desde el principio una abierta desconfianza. ¿Hasta qué punto nos fiamos de la inteligencia artificial? ¿Sabemos lo que hacen con nuestros datos? ¿Cómo evolucionará la IA?

Un documental diseñado para generar miedo

La película al completo es una oda al terror. No oculta en ningún momento una campaña mediática de miedo a la tecnología avanzada. Al descontrol o a no poder regular la inteligencia artificial a futuro. A que se nos escape la posibilidad de llevar las riendas.

Abre con escenas de miedo, y en el minuto tres, justo después de la intro, un usuario pulsa sobre la palabra “Confío” solo para ver cómo un Terminator T-800 de ‘Terminator 2’ camina sobre un cementerio de cráneos. Nada sutil.

do-you-trust-this-computer

Tampoco se cortan con las escenas sombrías sobre las que se intercalan fragmentos de vídeos que instan al pánico. Vemos grabaciones de disturbios, terrorismo y combates militares, todo adornado con efectos de imagen que recuerdan a las películas de ciencia ficción distópicas.

También recuerdan a las “lecciones” de el Mandarín, el falso terrorista de la película Iron Man 3, entrelazando mensajes y voz en off con imágenes desagradables.

Incluso en los mensajes optimistas, como cuando un entrevistado habla de que las máquinas “hacen que todo sea más fácil y simple”, la pantalla reacciona con un efecto de glitch que la oscurece:

do-you-trust-this-computer-miedo

Tampoco faltan las escenas de explosiones nucleares completamente gratuitas acompañadas de titulares como “era nuclear”. O mensajes de miedo, incertidumbre o indefensión relacionados con la tecnología:

“El cambio viene y nadie puede detenerlo”

“Sabemos que la respuesta es que ellas [las máquinas] llegarán a matarnos”

“La policía mata a un sospechoso usando un robot bomba”

¿Pinta tan mal el futuro? Según este documental, está bastante negro y la culpa la tiene la falta de regulación de la inteligencia artificial.

No faltan los mensajes positivos, siempre cautos

Cuando se habla de los vehículos autónomos, Eric Horvitz, director del Microsoft Research Lab, comenta que “es bastante obvio que podemos eliminar los accidentes de tráfico con la automatización”. Es un punto positivo.

David Ferrucci, desarrollador jefe del proyecto Watson de IBM, comenta el caso de máquinas que detectan el cáncer mejor que los médicos. El Doctor en radioneurología Brian Herman, fan del robot Da Vinci (abajo), lo secunda hablando de mamografías. Pone el caso de un procedimiento que usa un banco de datos de millones de escáneres previos para comparar.

robot-da-vinci-ia

Sin embargo, estos mensajes positivos rápidamente se tornan “inocentes” o “cándidos”. Son las palabras que usan los expertos como Elon Musk que aparecen en el documental.

La tecnología es fantástica, pero… una vez que alguien se pone a investigar sobre inteligencia artificial al parecer deduce que Terminator está en camino. O al menos consecuencias no deseadas como el paro y los disturbios. ¿El problema? La velocidad a la que se suceden los cambios tecnológicos.

¿Qué nos depara la inteligencia artificial?

El documental habla de la primera inteligencia artificial que la humanidad conoce como tal: el algoritmo de búsqueda de Google. En palabras del escritor y director Jonathan Nolan (‘Westworld’, 2016), “un dios que tiene la capacidad de que la gente le haga la pregunta que desea y obtenga la respuesta que necesita”.

También sobre cómo los algoritmos nos ayudan a elegir la siguiente canción o compra. Y cómo nos conocen “mejor que nuestra propia madre” gracias a la ingente cantidad de datos que cedemos alegremente.

“El mundo actual está literalmente sumergido en datos”, se escucha mientras se observa un gráfico impresionante. En él se muestra una torre de periódicos que cubre cuatro veces la distancia Tierra-Sol. Son los periódicos impresos con la información que la humanidad genera en 24 horas. ¿Para qué usamos esa información?

informacion-humanidad-ia

El documental es claro: hemos cambiado varias veces de paradigma en inteligencia artificial. Tratamos de explicarlo con la metáfora del ajedrez.

  1. Al principio le decíamos a un ordenador qué tenía que hacer para jugar al ajedrez, partida por partida.
  2. Luego le dijimos cuáles eran las reglas del ajedrez para que pudiese jugar con su propia estrategia.
  3. Ahora basta con que nos vea jugar para aprender por su cuenta (machine learning). O que lea toda la información accesible de la red sobre el ajedrez y sus partidas (deep learning).

En este sentido, el siguiente gran salto será la conducción autónoma. Hay muchos datos sobre conducción que una inteligencia artificial puede aprovechar. Dejando en el paro a todos los conductores del planeta a la vez, claro. Y lo mismo ocurrirá con los 7 millones de personas que se dedican a operar bases de datos.

Un documental válido sobre el futuro que no queremos

Insistimos en que el documental es muy poco optimista. Ante cualquier encrucijada, la tecnología avanzada nos traerá muchos problemas y hay que limitarla. Pero es para lo que se ha diseñado este gran spot.

Si del lado del optimismo y de la tecnología de color de rosa tenemos las ponencias de Google I/O, esta película ocupa el espacio opuesto: la tecnología es oscura sin llegar al estilo de Black Mirror. Porque la amenaza, según Elon Musk, de la tecnología no son sus consecuencias directas, sino las indirectas.

Siempre está bien echar la vista al futuro y adelantarnos a las posibilidades. La futurología trata de hacer eso, precisamente, para evitar los futuros distópicos. En este sentido el documental es igualmente válido sobre el futuro.

Nos advierte de que podríamos seguir pasos poco seguros, siendo las claves: legislar antes de que sea tarde, limitar el avance de la inteligencia artificial, y proteger los empleos. Pero la película deja claro que quizá no tengamos muchas opciones de cara al futuro.

La tecnología no se detiene porque un gobierno o conjunto de gobiernos la veten. Siempre habrá un desarrollador trabajando en alguna parte para crear el vehículo autónomo, o un chatbot que parezca humano. Cuando esto ocurra, ¿no la usaremos? ¿No dejaremos a los psicólogos sin trabajo si un bot lo hace mejor?

Este es el miedo que Musk y otros expertos tienen: un cambio social brusco derivado del avance. Es un miedo legítimo que deberíamos tener presente para diseñar políticas sociales orientadas a los desarrollos tecnológicos.

En Lenovo | ¿Cuándo dejará de marear la VR? ¿Necesita la IA un “botón de la muerte”? 5 preguntas incómodas sobre la tecnología

Imágenes | ‘Do You Trust This Computer?’