Skip to main content

IA, Una Influencia Abrumadora

04 de Julio de 2019//
(Tiempo estimado: 8 - 15 minutos)

Andrew McAfee es cofundador y codirector de la Iniciativa del MIT para la Economía Digital e investigador principal del Centro de Negocios Digitales de la Sloan School of Management del MIT, donde estudia cómo la tecnología está afectando a las empresas, la economía y la sociedad. Con la publicación en 2014 de su libro The second machine age: work, progress and prosperity in a time of brilliant technologies, escrito junto con Erik Brynjolfsson, recibió varios premios y el reconocimiento como top ten de los más vendidos según The New York Times y The Wall Street Journal. Su libro más reciente, publicado en junio de 2017 también en coautoría con Brynjolfsson, Machine, Platform, Crowd: Harnessing our digital future, ofrece una guía para ayudar a los ejecutivos a alcanzar el éxito en esta era turbulenta.

McAfee fue uno ponentes invitados al Hoy es Marketing de ESIC Business & Marketing School, evento que en su décimo sexta edición –bajo el lema “Technology, markets, business & human behavior”–, puso el foco en el desarrollo tecnológico, en los lazos internacionales del mundo de la empresa, y en la importancia fundamental del ser humano en todos estos cambios.

Durante su intervención, llamó la atención sobre el potencial de la Inteligencia Artificial (IA) que, combinada con las habilidades sociales propias del ser humano, puede llevarnos a “nuevos territorios que serán explorados de forma asociada entre máquinas y hombres”. Tras su ponencia, cuyos mensajes principales sintetizamos a continuación, nos concedió una interesante entrevista.

¿Por qué subestimamos la IA?

La forma en la que estamos aunando mente y máquina –o lo que es lo mismo, aunando aquello en lo que como humanos somos buenos y aquello que en particular las nuevas “máquinas” de IA consiguen– va a cambiar rápida y profundamente; y continuamos sin darnos cuenta del tremendo impacto que esto tendrá sobre nosotros.

Una manera de poder percibir el rendimiento combinado de la mente y las máquinas es el entorno de los juegos. Tan pronto como se inventó el ordenador, intentamos que fuese bueno practicando los juegos que las personas habíamos inventado para nosotros. Pronto pudimos programarlo para algunos sencillos, como el tres en raya, donde la máquina nunca perderá frente a una persona. Continuamos con otros más complejos, como el ajedrez, algo en lo que se trabajó durante décadas. Hace unos 20 años (1997), Gari Kaspárov se enfrentó a un ordenador de IBM llamado Deep Blue, jugando lo que muchos consideran la partida de ajedrez más importante de la historia de la humanidad. Kaspárov perdió. Desde entonces, el mejor jugador de ajedrez dejó de ser un hombre y la distancia entre habilidad digital y habilidad humana a la hora de jugar ajedrez no ha hecho más que aumentar.

Otro juego fascinante de estrategia, para muchos el más puro y complejo, es el Go. Ampliamente practicado en Asia, tiene más de 30 siglos de existencia. Lo interesante es que, hasta hace poco, los ordenadores habían sido pésimos jugadores de Go y nos preguntábamos por qué no se podían programar adecuadamente, tras estudiar el juego y a los jugadores.

Un gran player de Go no puede explicar la razón que hay detrás de un movimiento, argumentando que ha sido intuitivo y que su cerebro, habituado a jugar, toma esas decisiones sólo contrastables con la victoria final. Esto que puede parecer raro se explica a través de la paradoja de Polanyi, que nos dice que los seres humanos tenemos una increíble cantidad de conocimiento en nuestro cerebro al cual no podemos acceder ni describir, ni siquiera comunicar a otros, y que interfiere a la hora de progresar con la tecnología.

Gracias a esto, creímos tener una regla adecuada con la que distribuir el trabajo: todas aquellas cosas descriptibles, para las máquinas; todos aquellos casos donde sabemos más de lo que somos capaces de explicar, para las personas. Este era el estado de nuestro conocimiento en el año 2015.

Sin embargo, tres meses después todo cambió. El programa AlphaGo de Google, Deepmind, consiguió derrotar al jugador Fan Hui, algo que nadie había anticipado. Como parte de nuestra investigación, Erik y yo fuimos hablar con el equipo de Deepmind y descubrimos que lo importante era cómo había ganado. Simplificando muchísimo, todo dependió de un movimiento de apertura. En la segunda partida de AlphaGo, el movimiento 37 pasó a la historia del juego y logró que el ordenador se impusiera. De ese movimiento, creímos aprender que AlphaGo había podido observar con suficiente antelación diversas posibilidades a futuro como para darse cuenta de que ese extraño movimiento, hecho tan temprano en el juego, resultaría positivo; como así fue.

El equipo creador de AlphaGo nos explicó que la máquina jugaba de forma diferente a la de las personas. Después de ese caso, expertos chinos han jugado conjuntamente contra AlphaGo, que no ha dejado de mejorar, perdiendo sólo una partida contra todos ellos. Esto que ha ocurrido en Go seguirá repitiéndose con frecuencia. Cada vez más ordenadores harán mucho mejor las cosas que ciertas personas que han construido su reputación sobre los mismos temas después de años de práctica y estudio.

La Universidad Carnegie Mellon construyó Libratus, un potente sistema para jugar contra cuatro de los mejores jugadores de póquer, pues muchos creían que las máquinas no podrían vencer a los humanos en juegos donde nosotros podemos mentir, donde hay información oculta. Tras dos años de práctica, el ordenador les ganó. Lo llamativo es que Libratus no se basaba en conocimiento humano a la hora de atender al póquer. Quienes lo diseñaron sólo transmitieron las reglas, y nada más. Fue este bot de póquer, jugando billones de partidas contra sí mismo, el que aprendió las mejores estrategias desde cero, sin conocimiento humano.

Otro paso en la evolución del uso de la IA en juegos la volvió a dar el equipo de AlphaGo, con el reto de aprender otros juegos sin ninguna aportación de conocimiento humano, salvo ofrecer las reglas. Así surgió Alpha Zero, posiblemente el programa de ajedrez más potente del mundo, pues juega de forma diferente al no haber aprendido nada de las personas.

Mi conclusión es que la IA es capaz de redescubrir, comenzando desde cero, y mejorar todos estos entornos donde hemos construido nuestro conocimiento a través de muchísimo trabajo. Este cambio no sólo se limita a los juegos, sino que impacta en otros ámbitos, como ya está sucediendo con el reconocimiento del habla, los diagnósticos médicos, la fermentación o el consumo energético. De hecho, el equipo de AlphaGo y Alpha Zero empezó a trabajar para reducir el ingente gasto energético de Google. Para ello tuvieron que convencer a sus compañeros de los centros de datos, inicialmente reticentes, con los que necesitaban colaborar. Finalmente, la aplicación de la IA a la gestión energética de la compañía logró unas reducciones tremendas del consumo, y eso que los mejores expertos de Google habían dedicado antes miles de horas al tema.

IA para la vida

Con respecto a la fermentación, el uso de microbios para convertir el azúcar en otras sustancias útiles en todo mundo es algo de tremenda importancia. Las máquinas son capaces de mejorar el rendimiento y la funcionalidad de las bacterias, actuando de forma diferente sobre su ADN y avanzando más deprisa de lo que el conocimiento acumulado de las personas sería capaz.

Desde que en 2003 se secuenció el genoma humano, las expectativas han sido tremendas, pero los avances lentos por la increíble complejidad del ADN y la dificultad de entender la evolución a nivel molecular. Sin embargo, se están abriendo alternativas y varias start-ups están incluyendo esa información en grandes modelos de IA que, mediante pruebas robóticas y matemáticas, intentan obtener respuestas en los laboratorios. Esos resultados serán ideas para mejorar el rendimiento de las bacterias utilizadas para la fermentación.

Uno de los resultados, a partir de la colaboración con una empresa, demostró ser capaz de conseguir en un solo año mejoras del 15% anual respecto del microbio que la empresa utilizaba, frente a la mejora tradicional del 1%. El equipo propuso 15 cambios en la molécula de ADN del microbio y consultó al científico de la compañía si, basándose en su conocimiento, esos cambios tenían sentido. Respondió que tres sí, y que posiblemente él los hubiera puesto en marcha en un año; respecto de otros tres concluyó que quizás podría haberlos explicado; pero sobre otros seis reconoció no tener ni idea de por qué funcionaban positivamente, y sobre los tres últimos admitió no saber que esa parte del ADN tenía alguna función; es más, pensaba que era irrelevante para la vida de la bacteria, ¡y resulta que era extremadamente importante!

¿Dónde encaja la mente humana?

Cuanto más aprendemos de nuestro cerebro, más sabemos de sus fortalezas y debilidades. Tenemos muchos problemas en nuestro hardware mental, y esto nos lleva a preguntarnos si vamos a necesitar la mente humana en el futuro. La respuesta es rotundamente sí, pero tendremos que hacer cosas diferentes. Necesitamos que las personas hagan uso del sentido común que no tienen las máquinas que construimos. No sabemos qué es el sentido común ni cómo transmitirlo a un ordenador.

En el ataque terrorista de Sidney hace cinco años, las tarifas de Uber subieron porque sus algoritmos, diseñados para funcionar ante la demanda, no contemplaron la necesidad de la población de huir ante una amenaza; las máquinas no tuvieron sentido común. Hoy Uber tiene a personas vigilando este tipo de situaciones, por eso en los ataques terroristas de París todos los desplazamientos fueron gratuitos.

Tampoco los ordenadores saben a qué dedicarse. Cuando mostraron uno a Picasso, dijo: “Sólo da respuestas, no hace preguntas”. En el futuro, el éxito dependerá de una gran asociación donde nosotros hagamos las preguntas y los ordenadores respondan. Habilidades sociales humanas, como negociar, motivar, persuadir o coordinar, tienen mucho valor en los entornos laborales, más incluso que las matemáticas con su capacidad de programación.

Ya se están dando asociaciones positivas, como el rascacielos de Shanghái. Diseñado en un principio sólo por ordenador siguiendo un pliego de condiciones, el equipo sugirió y realizó después ciertas modificaciones, de manera que entre ambos construyeron un rascacielos increíble. En un futuro no distante, la capacidad de responder no va a tener tanto valor como el que las máquinas sean capaces de decirnos lo que es, o no, posible. Trabajaremos en asociación con ellas para entender y explorar un nuevo mundo. Nuestras vidas van a mejorar y aprenderemos a cuidar al planeta, si somos lo suficientemente humildes como para permitir que las máquinas nos descubran nuevos territorios para explorar de forma asociada.

FEDERICO FERNÁNDEZ DE SANTOS: “En manos de los gobiernos y de las estructuras dedicadas al conocimiento, junto con los entornos industriales, está la capacidad de un país para actuar como un polo de atracción para el talento”, nos decía el primer ministro Trudeau. Ahora bien, para fomentar el desarrollo tecnológico una vez se ha atraído el talento, ¿qué deben de hacer estos entorno?

ANDREW McAFEE: Las reglas del juego al respecto son bien conocidas. Para no olvidar esos elementos, mentalmente suelo repasar la canción de Ronald McDonald, cuando llega a la parte de “E-I-E-I-O”. Así recuerdo lo que tiene que estar haciendo un gobierno; esto es: Emprendimiento, Infraestructuras, Educación, Inmigración e investigación Original. Con estos factores, un gobierno puede crear un entorno saludable para la Inteligencia Artificial (IA), la biotecnología o cualquier otro cambio tecnológico profundo.

Si analizamos lo que está ocurriendo en Estados Unidos, nos damos cuenta de que lo realizado en esos cinco aspectos es mediocre, e incluso negativo. Mencionaba a Canadá, y sus deseos de ser un centro neurálgico para el desarrollo de la IA; para ello, y con buen sentido, el país está transmitiendo al talento internacional vinculado con esta tecnología la idea de que están dispuestos a cogerles con los brazos abiertos. Por el contrario, lo que estamos haciendo en EE.UU. es cerrar las puertas a ciudadanos de ciertos países, al tiempo que creamos todo tipo de barreras. Si preguntásemos a los 50.000 especialistas radicados fuera de EE.UU. dónde desearían desarrollar su carrera profesional, el 90% de ellos nos elegiría. ¡Es una situación absurda!

F.F.S.: Los algoritmos los desarrollan personas que tienen sus preferencias; ergo, los algoritmos tendrán preferencias. Se discute mucho sobre cómo hacer una Inteligencia Artificial neutra. ¿Es posible?

A.M.: Estas argumentaciones siempre me confunden, pues plantean que nosotros, como seres humanos, no podemos construir herramientas que superen nuestras limitaciones. Estoy categóricamente en desacuerdo con esta afirmación. De hecho, por ello es por lo que construimos herramientas. Las máquinas elevadoras, que son mucho más fuertes que nosotros, son construidas por “débiles” seres humanos. Los algoritmos pueden ser creados por personas parciales, con sesgos, pero ¿significa eso que los algoritmos tengan que ser igual de sesgados? Absolutamente no.

Esa lógica no funciona y tenemos gran cantidad de evidencias sobre nuestra capacidad para construir algoritmos mucho menos sesgados que personas con gran experiencia. Esto es una falacia lógica. Decir que, si como personas somos parciales, los algoritmos que creemos también lo serán, no es real. No podemos perpetuar estas falacias. Hay que clarificar muchas situaciones similares, y esta es una de las más notorias.

F.F.S.: Llaman mucho la atención sus comentarios respecto de la IA y su capacidad de aprender por sí sola… Pero, ¿cómo comienza ese proceso?

A.M.: Se puede comenzar desde una base de conocimiento humano o, como he aprendido el último par de años con algunos desarrollos realmente excitantes, desde cero. Hay sistemas que comienzan con cero conocimiento humano y construyen todo su conocimiento internamente, por sí mismos.

F.F.S.: Estas capacidades, junto con el machine learning, pueden hacer que, sobre todo en biotecnología, se produzcan “saltos cuánticos” en los entornos de salud que alteren el mapa de los costes médicos, entre otras cosas.

A.M.: Como dice, la IA y el machine learning son dos poderosísimas herramientas que los humanos hemos inventado en la pasada década. Una IA que funciona junto con un toolkit que nos permite editar el genoma hace que sea muy optimista respecto de lo que vamos a conseguir con esta combinación. Para lo que no tengo respuesta es para la cuestión de la velocidad a la cual se van a producir grandes innovaciones en estas áreas.

La naturaleza es más compleja de lo que podemos imaginar y cada vez que parece que hemos realizado un nuevo descubrimiento, aprendemos lo increíblemente compleja que es la genética, la evolución, la biología… la vida. Desconozco la escala temporal para las innovaciones, pero sí que ocurrirán en este siglo.

F.F.S.: Una de las predicciones para este siglo es el vehículo autónomo. Ya hay coches de nivel cuatro circulando, y con la implementación del 5G se espera tener más vehículos en la carretera muy pronto. La importancia del impacto económico que la conducción autónoma tenga nos hace pensar que el transporte de mercancías por autopistas será uno de los ámbitos donde la aplicación sea más rápida. ¿Está de acuerdo?

A.M.: Conozco una start-up que está automatizando el transporte de mercancías entre Dallas y Los Angeles. Esto puede parecer extraño, pero cuando reflexioné sobre ello, me di cuenta de que hay indicadores –como puede ser el buen clima, no hay ni niebla ni nieve habitualmente; las autopistas suelen estar en buen estado y ser bastante planas, la luminosidad es muy alta…– que facilitan unas condiciones bajo las cuales la conducción autónoma funciona mejor.

Conducir un taxi en Manhattan, con todos los problemas climáticos añadidos a millones de neoyorquinos a quienes no les gusta seguir las reglas, hace que este sea un entorno terriblemente complejo para la conducción autónoma. Lo que dice me parece muy plausible. Creo que esta comenzará en lugares como el de las autopistas entre Dallas y Los Angeles o en una autovía en los Emiratos Árabes Unidos, un país que está adoptando una aproximación muy innovadora a todas estas tecnologías.

Una conducción completamente autónoma en Madrid centro o en Nueva York está aún a mucha distancia. Podemos recorrer el 99% del camino, pero el 1% restante, que es el crítico, será muy difícil de alcanzar. Las muertes que se pueden producir en ese 1% serían inaceptables.

F.F.S.: El planteamiento de empresas como Aurora nos parece muy sugestivo. Crear variaciones a un escenario experimental frente a tener que, vivencialmente, experimentarlo –como es el caso de Tesla o Waymo– implica economías de escala e incentivos de velocidad y coste.

A.M.: Absolutamente cierto. Desconozco cuál es el camino para conseguir vehículos autónomos en las calles; puede ser el de conducir muchas millas simuladas o conducirlas de forma real. No soy experto en este campo, pero si tenemos suficientes equipos distribuidos trabajando en ello, alcanzaremos la conducción autónoma mucho más rápidamente. 


Andrew McAfee, codirector de la Iniciativa para la Economía Digital e investigador principal de MIT Sloan School of Management

Entrevista publicada en Executive Excellence nº159, jul/ag 2019.

Innovative Knowledge by ESIC