Agentes de IA y limitaciones humanas, por Valla Vakili

El mundo digital se construye sobre el lock-in. Desde las plataformas sociales hasta los servicios de streaming, el comercio electrónico y las apps financieras, el modelo de negocio de Internet permite elegir dentro de los ecosistemas mientras restringe el movimiento entre ellos. Hemos aceptado estas limitaciones como el coste necesario del progreso digital, de la libertad de usar una oferta cada vez mayor de productos y servicios digitales.

Ahora llegan agentes de IA con capacidades que hemos diseñado a partir de nuestra propia experiencia: la libertad de moverse sin fricción por las fronteras digitales, de actuar con autonomía en varias plataformas, de escapar a las limitaciones de cada ecosistema. Estos agentes pueden recorrer el paisaje digital ejecutando acciones sin supervisión, sin verse atados por los muros que confinan a los usuarios humanos. Nos asombra ver a las máquinas ejercer libertades que nunca nos hemos concedido a nosotros mismos.

Esta paradoja pone de relieve una contradicción en la forma en que hemos construido el mundo digital. Para los usuarios, las fronteras son intencionales y la interoperabilidad solo se consigue mediante hacks u órdenes e instrucciones; para los agentes, la interoperabilidad existe desde el inicio

Esta incipiente “era agéntica” otorga a las máquinas una libertad de navegación por los espacios digitales que, de forma sistemáticamente, nos hemos negado a nosotros mismos.

La ironía es llamativa: estamos construyendo agentes de IA para superar las mismas restricciones que hemos diseñado para nuestros sistemas digitales.

Estas limitaciones que nos impusimos no eran técnicas. Eran imperativos empresariales que han dado forma a Internet desde sus primeros pasos hasta hoy, y que han definido no solo los productos, sino nuestra propia concepción de lo que significa ser humano en los espacios digitales.

Me pregunto por qué nos asombra la libertad que concedemos a la IA cuando aceptamos como inevitables esos mismos límites que, desde hace tiempo, nos hemos impuesto a nosotros mismos Para comprender este paradigma hemos de recorrer el camino que nos llevó a un modelo basado en el lock-in de usuario y a la incomodidad cultural que lo acompaña desde el principio, junto con las alternativas que cuestionan sus supuestos frente a la elección más profunda que ahora se nos plantea en esta nueva era de IA agéntica.Me pregunto por qué nos asombra la libertad que concedemos a la IA cuando aceptamos como inevitables esos mismos límites que, desde hace tiempo, nos hemos impuesto a nosotros mismos

Historias de usuario

En línea somos usuarios por doquier. Usuarios que buscan, compran, crean, escuchan, miran… En el diseño de productos digitales, la palabra más asociada a usuario es experiencia. Los equipos de experiencia de usuario son los “defensores del usuario”, descubriendo sus necesidades y asegurándose de que los productos las satisfagan.

Pero cuando el diseño da paso al negocio, toma el relevo otra palabra: lock-in. Las empresas digitales dependen de mantener la actividad dentro de sus límites para maximizar adquisición, retención y monetización. El lock-in impide que un gráfico social, un libro electrónico, una lista de reproducción o una reputación se trasladen fácilmente entre ecosistemas. Define el espacio en el que operan los equipos de experiencia de usuario.

El lock-in es la forma en que los negocios digitales se escalan. Si tu definición de usuario no respalda ese modelo, no tienes negocio.

Las empresas de juegos nativas digitales perfeccionaron el lock-in. Las empresas tradicionales lo adoptaron en nombre de la transformación digital. Juntas llevaron la tensión entre experiencia de usuario y lock-in a casi todos los sectores. Ningún sector ha desarrollado aún una alternativa a escala. El resultado es un Internet que trata a las personas como intrínsecamente limitadas, no por necesidad o intención, sino por el perímetro del negocio

Los intentos de cambiar esto –desde gráficos sociales abiertos hasta portabilidad de datos– son marginales. Sin lock-in no hay modelo de negocio. Y una vez que existe lock-in, tendremos usuarios que se definen como personas con capacidad de acción limitada por defecto.

Nuestros productos tecnológicos más populares aportan valor real a través de este modelo; pero, al hacerlo, refuerzan una lógica más profunda: la que toma la restricción como condición para el crecimiento y a las personas como vías para escalar.

Ese patrón contrasta claramente con lo que ahora estamos construyendo para los agentes de IA: sistemas diseñados, desde el inicio, para moverse libremente por las mismas fronteras que hemos levantado para contenernos.

Píldoras rojas y espejos negros

La cultura popular lleva tiempo captando el desasosiego que supone tratar a las personas como usuarios cautivos.

En The Matrix, la píldora roja despierta a la gente de una realidad simulada controlada por máquinas. Una vez despiertos, aun pudiendo navegar por ese sistema, siguen sujetos a sus reglas. Solo los agentes –código autónomo– pueden romper o reescribir esas reglas… hasta que llega Neo. Neo se mueve como un agente, lucha como uno, rompe las reglas de ese mundo como ellos. Ser humano y libre en The Matrix es parecerse más al código.

Dos décadas después, Black Mirror lleva la lógica aún más lejos.

En Common People, un marido inscribe a su esposa en coma en un procedimiento cerebral experimental que, para preservar su función, ancla su conciencia a un servicio en la nube. A medida que el modelo de negocio de la empresa evoluciona, sus vidas empeoran, atrapadas en un servicio digital decadente del que no pueden salir. Recuperar la capacidad propia de actuar exige una salida radical.

Entre The Matrix y Black Mirror hay un cuarto de siglo de crecimiento digital y una sensación de creciente decadencia. Cory Doctorow lo llama la “enmierdificación” de Internet: un sistema que aumenta en capacidad mientras deteriora la experiencia. Bajo esa erosión late la tensión fundacional entre experiencia de usuario y lock-in.

Ni The Matrix ni Black Mirror ofrecen una visión alternativa. Ese es el quid de la cuestión. Dramatizan el coste de la huida cuando los sistemas basados en la restricción no dejan espacio para imaginar otro camino.

Una vez aceptade la premisa de “personas como usuarios”, el tipo de mundo digital posible ya está delimitado

Para escapar de ese marco necesitamos nuevos bloques de construcción. Otro mundo diferente –y otra palabra diferente–.

Alt.Usuario

Si la cultura pop es capaz de captar nuestro malestar ante el lock-in, la infraestructura revela los esfuerzos por salir de él.

No todo el mundo acepta al usuario como la última palabra. Movimientos como crypto y la Infraestructura Pública Digital (DPI) parten de otra premisa: que las personas no son solo usuarias de sistemas digitales, sino participantes con albedrío. Crypto las imagina como individuos soberanos. La DPI las trata como ciudadanas.

Crypto sustituye usuario por individuo soberano y lock-in por descentralización. En su visión de un sistema financiero descentralizado a escala, las personas pueden poseer, almacenar, intercambiar y monetizar activos digitales sin depender de intermediarios.

En crypto, el libre albedrío es la propiedad. El individuo soberano mantiene la custodia total de activos, identidad, actividad y acceso. El modelo requiere tanto de una nueva infraestructura como de un cambio de autopercepción: de usuario a custodio de su presencia digital.

La infraestructura pública digital parte de otro lugar. En vez de individuos soberanos, se centra en ciudadanos. En vez de descentralizar, construye bienes públicos. Mediante identidad verificada, estándares compartidos y portabilidad de datos, la DPI ofrece los cimientos para acceso, transparencia y agencia a escala.

En su forma más ambiciosa, la DPI imagina a las personas desplazándose por la vida digital como participantes con derechos: capaces de llevar sus datos, identidad y reputación entre servicios tan fácilmente como un pasaporte cruza fronteras.

Estas alternativas replantean cómo se escalan los sistemas digitales. Crypto lo busca mediante coordinación descentralizada; la DPI, mediante estándares garantizados por el estado e infraestructura pública. Ambas van más allá del usuario como modo por defecto de participación.

Ambos (Crypto y DPI) nos recuerdan que lo que necesitamos es reinvención: un nuevo diseño para la vida digital

Ha llegado el momento de tomar una decisión, Sr. Anderson

El “usuario” ha tenido un buen recorrido. Como la base del modelo de negocio de Internet, ha contribuido a construir una industria que toca casi todos los ámbitos de la vida. Puede jubilarse con comodidad, contemplando desde la playa ese reino digital que ayudó a levantar.

¿Qué ocuparía su lugar? ¿Cómo sería una tecnología no basada en usuarios y en lock-in?

Empezaría separando a las personas de los productos.

Tanto crypto como la DPI ofrecen pistas: por diferentes que sean individuo soberano y ciudadano, ambos exigen que la tecnología se adapte a la persona, no al revés.

Viendo la forma en que la gente utiliza hoy la IA, pueden ya apreciarse los contornos de un albedrío ampliado.

Vemos cómo las personas ya se mueven con fluidez entre distintos LLM (Large Language Models), improvisando y orquestando flujos de trabajo a través –y no solo dentro– de proveedores. Seguir esa lógica significaría sustituir “usuario” por nuevos roles: explorador, improvisador, orquestador, artista.

Pero estos roles siguen vinculando a las personas con la tecnología. Improvisamos no porque los sistemas sean fluidos, sino porque hemos aprendido a sortear barreras entre sus huecos. Ese marco reduce nuestra imaginación a la IA, cuando lo que deberíamos hacer es repensar la base digital sobre la que ahora se asienta dicha IA, porque la realidad es que gran parte de lo que le pedimos a la IA que orqueste para nosotros consiste en sortear las restricciones y el lock-in del internet actual. Estamos creando código con libre albedrío para atravesar los muros que retienen a las personas.

Nos enfrentamos a una elección.

Podemos seguir construyendo IA dentro de un marco antiguo: productos que tratan a las personas como usuarios y negocios que dependen del lock-in. O bien podemos dedicar la enorme energía que hoy invertimos en dotar de albedrío al código y aplicarla en cómo pensamos sobre las personas.

Si la IA es realmente una tecnología de alcance existencial –como se nos repite a diario– necesitamos un sólido concepto de la persona que esté a la misma altura. La única palabra capaz de soportar tal presión es “humano”: ese que lucha por liberarse en Matrix y que está atrapado en Black Mirror

Una tecnología centrada en lo humano significa resistirse a que nos reduzcan a narrativas ordenadas de tareas completadas dentro de un sistema. Es reintroducir la complejidad humana en el diseño mismo de la tecnología.

Una tecnología centrada en lo humano habría de construirse a partir de nuevos principios básicos: sentido, dignidad, valor propio, personalidad, confianza, crecimiento. No son casos de uso. Son condiciones para el florecimiento humano. ¿Por qué querríamos que nuestra tecnología ofreciera algo menos?

Maximizar estas condiciones depende de la libertad de movimiento.

El sentido, el valor y la confianza no pueden encerrarse en un ecosistema digital ni agregarse entre varios. Se fortalecen con la libertad de ir y venir, de atravesar dominios digitales con facilidad, de poder tomar aquello que nos sirve y dejar lo demás. Dependen del libre albedrío.

Y hay signos de cambio. Muchos sienten que nos falta algo fundamental. El idealismo inicial del diseño centrado en el usuario se ha transformado en una búsqueda más amplia de sentido, dignidad y complejidad. Un deseo de que vuelva el factor humano. El talento existe. Lo que falta es el modelo.

Décadas después del nacimiento de Internet, la mayoría de negocios todavía escalan mediante lock-in. El reto de la próxima era –la verdaderamente agéntica– es construir ampliando el libre albedrío humano. No encerrando a la gente, sino dejándola moverse.