"Necesitamos una brújula ética ante la IA"

"Necesitamos una brújula ética ante la IA"

Brad Smith es uno de los nombres más vinculados a la historia de Microsoft: se unió a la compañía en 1993, antes de que la tecnológica alcanzara la gloria con el lanzamiento de Windows 95, y desde entonces no ha parado de ascender en el organigrama hasta ser nombrado en 2015 presidente de la multinacional estadounidense. Si bien en su primera etapa se vio obligado a enfrentarse a los reguladores europeos que acusaban de monopolio a Microsoft, el directivo salió reforzado de los malos tiempos y en los últimos años se ha convertido en uno de los líderes más activos en la defensa de la privacidad, la protección de datos y la ética, aspectos fundamentales a la hora de impulsar tecnologías como la Inteligencia Artificial.

Suya es la idea de crear una Convención Digital de Ginebra para promover una regulación y restringir el uso de la tecnología por parte de los gobiernos. Su compromiso en este ámbito es tan fuerte que le llevó a enfrentarse con Donald Trump cuando el presidente estadounidense pidió acceder a datos de algunos usuarios de la compañía, radicados en Irlanda, con la excusa de que eran claves para la seguridad nacional de EE.UU.

Smith también es conocido por su empeño en establecer límites éticos a la Inteligencia Artificial. El directivo ha exigido en numerosas ocasiones el desarrollo de una regulación gubernamental detallada y la creación de normas que protejan a los usuarios frente al potencial mal uso de esta tecnología. Así lo expresó una vez más durante su intervención en la última edición del congreso tecnológico Web Summit Lisboa.

Un futuro de de cambios colectivos

En 2020 no sólo hemos entrado en un nuevo año, sino también en una nueva década. Para todos aquellos que estamos conectados a la tecnología, los próximos 10 años serán clave en términos tecnológicos, y también en cuanto a la intersección que existe entre tecnología y sociedad.

Enfrentar los cambios que se avecinan en la siguiente década conlleva observar con detenimiento los avances y desarrollos que han tenido lugar desde el año 2000, porque sobre ellos vamos a construir el futuro.

Sin duda, el avance que más ha marcado el poder y la capacidad de computación ha sido la nube. Microsoft comenzó a trabajar con un centro de datos en o 2010, pero hoy en día el cloud computing está presente en todo el mundo, ha conseguido reducir el coste de acceso a la tecnología transformándolo en coste por operación y ha dado paso a una verdadera explosión en este ámbito.

A comienzos del año 2020 se registraron 25 veces más datos digitales que en 2010, y los avances en Inteligencia Artificial –especialmente deep learning y redes neuronales- han transformado nuestra habilidad para poner esos datos a trabajar. Se trata de una asombrosa agregación de cambios colectivos que hace que predecir el futuro sea un verdadero reto, aunque sí hay algunas tendencias que nos pueden ayudar a anticipar ciertos hitos que nos esperan.

En general, la próxima década estará marcada por cuatro importantes avances:

1.- La computación clásica y la digital empezarán a combinarse con la cuántica para desentrañar algunos de los retos científicos más complejos.

2.- Los centros de datos se van a multiplicar a lo largo de todo el planeta para dar servicio a más cantidad de clientes; también aparecerán nuevas y mejores formas de almacenar y procesar los datos que nos permitirán seguir el paso de la creación.

3.- La tecnología 5G se convertirá en 6G haciendo que la computación esté presente en todos los aparatos y en cada esquina de nuestra casa sin que reparemos en ella, alimentando de esta forma la Inteligencia Artificial.

4.- Empezaremos a hablar de Artificial General Inteligence (AGI). La capacidad que tendrá la Inteligencia Artificial para operar fuera de silos y trabajar en todos los escenarios permitirá a las personas conocer con detalle multitud de disciplinas.

Estoy convencido de que todos estos acontecimientos juntos darán lugar a una era de cambio extraordinario y a un sorprendente tiempo de oportunidades, pero entonces, ¿por qué vivimos en un continuo estado de ansiedad?

En cualquier lugar del mundo se puede oír hablar de globalización, desigualdad de ingresos, inmigración, problemas de comercio, barreras... Conceptos que, curiosamente, se ven impulsados por la tecnología.

El mundo está tan centrado en los síntomas que no se habla lo suficiente sobre las causas fundamentales que están provocando ese cambio. Y se espera que las grandes compañías hagan avanzar la tecnología y, al mismo tiempo, piensen de una forma amplia y abierta preservando los valores atemporales. Valores como los derechos humanos fundamentales, el respeto y las oportunidades para todos.

Si las grandes compañías y los entornos tecnológicos van a responder a lo que el mundo requiere, deberían comenzar definiendo y reconociendo los verdaderos problemas a los que nos enfrentamos. La tecnología ha sido un recurso increíble, pero no debemos olvidar que cualquier herramienta puede transformase fácilmente en un arma. Una escoba puede servir para barrer el suelo o para darle un golpe en la cabeza a alguien. Lo cierto es que cuanto más poderosa sea la herramienta, más formidable será el arma.

La Inteligencia Artificial es una herramienta completamente nueva en el mundo que irá empoderándose con el tiempo, pero debemos ser conscientes de que se puede transformar en un arma.

IA: el nuevo motor de combustión

La primera mitad del siglo XX estuvo marcada principalmente por una innovación: el motor de combustión. Este invento impulsó al coche, al avión, al tractor, al camión y fue el principal responsable del cambio que experimentó la economía mundial. Me parece razonable decir que a lo largo de las tres próximas décadas la Inteligencia Artificial va a representar un papel similar al del motor de combustión en la economía global, y esto nos obliga a pensar como nunca antes lo habíamos hecho sobre lo que esta tecnología significa y las implicaciones que va a tener en la sociedad.

Antes de plantear esta reflexión, debemos pararnos a analizar determinadas cuestiones que se repiten periódicamente desde que el hombre comenzó a utilizar la tecnología.

Cuando estuve en El Vaticano, una de las instituciones activas más antiguas de Europa continental, tuve la gran suerte de visitar su maravillosa biblioteca y acceder a una zona privada donde se encuentran dos libros muy especiales que están relacionados con el futuro de la tecnología.

Uno de ellos es la Biblia número 24 que se imprimió en la imprenta de Gutenberg en el año 1450. El mensaje que transmite esta obra es que la tecnología había creado la imprenta, un invento que revolucionó la religión cristiana en Europa, porque permitió a las personas interpretar la Biblia por sí mismas.

En esa habitación había un segundo libro fechado 150 años después, en el 1600, que recogía las cartas escritas por Galileo al Papa protestando por su encarcelamiento. En cada una de ellas Galileo había dibujado la posición del sol visto a través de su telescopio, y al ir pasando las páginas se podía observar claramente cómo variaba la posición del astro. El científico utilizó este hecho para explicar su inocencia.

En el caso de Gutenberg, la tecnología había ayudado a difundir la religión, pero la historia de Galileo es un ejemplo de cómo la tecnología colisiona con esta doctrina. Esto nos lleva a deducir que todas y cada una de las nuevas tecnologías tienen efectos similares al de las ondas que se expanden en el agua tras caer una piedra, porque afectan a todos los ámbitos de la sociedad; al igual que ondas transversales, influyen en la economía, en la política y en la religión.

Definiendo los principios éticos de la robótica

Actualmente nuestros problemas no están relacionados con telescopios ni con imprentas, sino con la Inteligencia Artificial, un término que acuñó el académico John McCarthy en 1955 para diferenciar este campo de otros como el de los autómatas o el de la cibernética.

Sin embargo, esto fue seis años después de que el cine de ciencia ficción mencionara por primera vez esta tecnología y las consecuencias que su uso podía tener para la humanidad. En 1941 Isaac Asimov escribió el libro Runaround (Círculo Vicioso), que explora las implicaciones de las tres leyes de la robótica, unas leyes diseñadas como los principios éticos que debían gobernar a las máquinas para que estas tomaran decisiones sobre sí mismas y sobre lo que las rodeaba.

El argumento de la película Yo, Robot (2004) protagonizada por Will Smith, es especialmente catastrófico y revelador. Pero la idea del peligro que entrañan las máquinas es constante en el cine. En la película 2001: Odisea espacial, dirigida en 1968 por Stanley Kubrick, un ordenador gestionado por Inteligencia Artificial pone en apuros a los astronautas que orbitaban Júpiter cuando estos quieren volver a entrar en la nave.

En realidad, las películas de este género tienen todas un guión similar basado en la idea de que los humanos inventan máquinas capaces de tomar decisiones por sí mismas, y ellas comienzan a hacerlo, dejan de escucharles y comienzan a esclavizarles, o incluso les matan. Esto ha hecho que el público desarrolle una idea negativa de la Inteligencia Artificial. Tal y como expongo en el libro Tools and Weapons, la pregunta que deberíamos plantearnos en un entorno como el actual no es ¿qué pueden hacer los ordenadores?, sino ¿qué deberían hacer?

Debemos pensar intensamente y con profundidad sobre este asunto, porque somos la primera generación de la historia que entregará poder a las máquinas para que tomen decisiones que antes tomaban las personas. Si nos equivocamos, todas las generaciones futuras sufrirán las consecuencias. Por eso es tan importante que todas las compañías tecnológicas, no sólo Microsoft, se focalicen en la ética de la Inteligencia Artificial y trabajen para definir e implementar los principios fundamentales que deben regir esta tecnología.

También sería conveniente dar un paso atrás y comenzar a plantear nuevas preguntas que nos ayuden a aproximarnos a esta nueva situación. Debemos dejar de pensar en las excitantes aplicaciones que puede tener un ordenador y elevar nuestro pensamiento para construir guarda raíles y barandillas que nos protejan de un potencial mal uso y otras consecuencias no intencionadas de la tecnología.

Para ello es necesario trabajar de forma conjunta con los gobiernos y pedirles que pongan los medios necesarios para avanzar más deprisa. Nos encontramos en un entorno excitante en el que tenemos más capacidad que nunca para generar valor, pero estoy convencido de que el servicio será mucho mejor si ponemos al público siempre por delante de nuestros intereses.

La industria tecnológica tiene un gran potencial para generar beneficios, y si somos capaces de anteponer el interés público al empresarial, las oportunidades se multiplicarán.

El pasado como fuente de inspiración

Servir al público significa pensar en le futuro sin olvidar las lecciones aprendidas en el pasado. Decía Mark Twain: “La historia no se repite, pero frecuentemente rima”, y esta rima representa una herramienta muy potente a la hora de aplicar las lecciones que nos han legado las generaciones que han experimentado situaciones similares a lo largo de la historia.

Una de las personas que siempre me viene a la mente cuando pienso en las oportunidades que hoy nos brinda la tecnología es Hans-Jochen Scheidler. En 1968, él y sus amigos distribuyeron 800 panfletos en protesta por la intervención soviética durante la Primavera de Praga. Fue arrestado por el Ministerio de Seguridad del Estado de la RDA y sentenciado a dos años y seis meses de prisión, que pasó en el campo de trabajos forzados en Berlín-Hohenschönhausen. Después de su liberación, a Scheidler se le prohibió continuar su carrera académica como físico.

Hoy, en cambio, cuando la gente quiere protestar por algo lo comparte con todo el mundo enviando mensajes de texto, mails o publicando post en redes sociales. Esto demuestra la importancia que está adquiriendo la protección de la privacidad como derecho humano fundamental, especialmente ahora que todo se está transformando en digital.

A lo largo de la próxima década tendremos que enfrentarnos a numerosos peligros que intentarán atentar contra este derecho. Por eso, la nueva ola de tecnología tiene que venir acompañada de una nueva generación de seguridad, una serie de medidas que protejan la ética y los derechos humanos asociados a la Inteligencia Artificial.

La industria debe ser capaz de pensar de una forma abierta con el objetivo de dar respuestas a la sociedad y proporcionar soporte técnico global para evitar que determinadas comunidades se queden aisladas. En Estados Unidos, por ejemplo, hay 20 millones de personas que carecen de acceso a banda ancha, y en Irlanda, un millón.

En total, la mitad de la población mundial no tiene conexión a Internet y esto supone un importante obstáculo a la hora de crear puestos de trabajo o avanzar en áreas tan importantes como la educación o la medicina. El mundo necesita que ampliemos el alcance de la tecnología para que todos puedan avanzar con igualdad.

Si queremos conseguirlo hemos de buscar inspiración en el pasado, porque hace un siglo el mundo se enfrentaba a retos similares que conquistó y superó. En Estados Unidos fue necesario crear una iniciativa gubernamental asociada con el sector privado para llevar la luz a todo el país, igual que ocurrió en otros muchos lugares.

Hemos actuado con niveles muy elevados de ambición en el pasado, y debemos ser capaces de sostenerlos. La inspiración nos rodea, y la tecnología es una gran herramienta para potenciarla. Una persona que me inspira todos los días es Anne Taylor. Comenzó a trabajar con ordenadores en la escuela para alumnos ciegos de Kentucky, y gracias a su esfuerzo y tesón consiguió licenciarse en Ciencias Informáticas. Actualmente forma parte del departamento de Accesibilidad de Microsoft donde diseña productos basados en Inteligencia Artificial accesibles para las personas con discapacidad como, por ejemplo, Seeing AI, una aplicación gratuita para personas ciegas que describe a través de una narración por voz el entorno, identifica objetos e, incluso, puede evaluar las emociones en los rostros de las personas.

Estoy convencido de que la Inteligencia Artificial es la herramienta más poderosa que tenemos para avanzar en accesibilidad, y también para enfrentarnos a los desafíos de la sostenibilidad del planeta y ayudar a aquellas personas que están desarrollando proyectos humanitarios o destinados a conservar la herencia cultural del planeta.

Tecnología para resolver problemas globales

Hoy más que nunca necesitamos utilizar la tecnología para solventar los problemas del mundo. Y esto es, precisamente, lo que hace Nick Wise, activista comprometido con el problema de la sobrepesca y la sostenibilidad de los océanos. Los estudios afirman que uno de cada cinco peces vendidos se pesca de forma ilegal, lo que supone un total de 23,5 billones de dólares al año. Para luchar contra esta práctica, Wise creó Ocean Mind, una iniciativa sin ánimo de lucro que, apoyada en la tecnología, ha conseguido resolver en gran medida este asunto. La organización recibe a través de imágenes por satélite billones de datos de diferentes puntos en los que se están realizando actividades de pesca. Microsoft filtra la información y pone el foco sobre las actividades sospechosas para que sean investigadas. De esta forma hemos conseguido crear una cultura donde la Inteligencia Artificial de Microsoft puede ser utilizada por cualquier persona que quiera luchar contra la pesca ilegal.

Hace tan sólo un año esta iniciativa contaba con nueve empleados, y en este tiempo ha duplicado su tamaño y está trabajando con multitud de gobiernos de diferentes países. Dentro de poco Ocean Mind podrá analizar en tiempo real datos de todo el mundo y compartirlos con los gobiernos para mejorar la sostenibilidad de los océanos.

Este proyecto muestra el poder de la tecnología, pero también afirma que todos tenemos un rol en este ámbito, ya seamos una compañía con años de historia a sus espaldas, una start-up, una empresa tan grande como Microsoft que genere beneficios o una iniciativa sin ánimo de lucro. 

Para solucionar los grandes problemas que tenemos en la actualidad y asegurarnos de que la tecnología juega un rol responsable tenemos que trabajar todos juntos. Este es nuestro principal reto, y también nuestra oportunidad, para la década que ahora comienza. 


Brad Smith, presidente de Microsoft

Texto publicado en Executive Excellence nº165, marzo 2020