Las big tech quieren que el agente autónomo sea tu mayordomo, pero no es oro todo lo que reluce

Sobre el papel, la idea es fantástica: contar con un agente que se ocupa de la logística familiar, el papeleo y las vacaciones. La amenaza está una vez más en el sesgo que puede convertir al humano en un títere de la máquina.

Era cuestión de tiempo que a los modelos frontera se adhiriese una funcionalidad más sofisticada que la interacción mediante un diálogo entre el usuario y la máquina. Una vez hormigonada la base de la pirámide con los esfuerzos milmillonarios de Anthropic, Google y OpenAI, tocaba añadir una capa de valor en forma de agente autónomo. El mecanismo que entra en juego entonces es el de la delegación previo entrenamiento. De algún modo, esta dinámica recuerda a la del propio modelo: es el humano quien adiestra al sistema para que sea éste el que posteriormente ejecute tareas ciñéndose a un corpus de estilo, documentación, predilecciones y reglas.

Para hacerse una idea de la industrialización de este fenómeno, basta remitirse a las palabras del consejero delegado de McKinsey, Bob Sternfels, quien a comienzos de este curso desvelaba que la consultora estadounidense recurría ya a cerca de 25.000 agentes para acompañar a sus 40.000 trabajadores en plantilla. Amazon, Klarna, DHL, JP Morgan o Walmart se han sumado a esta tendencia para mejorar procesos internos, gestionar inventarios, resolver disputas comerciales o atender al cliente. El impacto toma la silueta de la agilidad y la agilidad suele embellecer la cuenta de resultados.

Pero, más allá del B2B, se libra una jugosa batalla. En el B2C se crea un vínculo entre el agente y el consumidor: el primero accede potencialmente a toda la información del segundo, a sus gustos, hábitos, preferencias de viaje, intenciones de inversión, recursos económicos y hasta ideología. La extensión de la subrogación dependerá de la empresa a la que se encomiende cada uno, aunque ya se sepa, por ejemplo, que las big tech norteamericanas son poco amigas de la privacidad, actitud que suele culminar con multas en geografías como la europea.

De cualquier forma, lo que Meta, Alphabet, Apple y OpenAI anhelan es convertirse en un sistema operativo de lo cotidiano, en un Android personal capaz de trabajar en la sombra, mientras la vida sigue y el humano se enreda en ella. En esta línea se enmarcan Muse (Meta), la constelación agéntica más generalista; Google - CC, orientada a la administración de la agenda y logística familiar; la nueva Siri de Apple; o Alexa+ (Amazon), cuya ventaja obvia proviene del conocimiento de los hábitos de compra del usuario.

OpenAI y Anthropic permiten desde hace tiempo dedicarle unas horas a la creación de agentes más centrados en la productividad. Tal y como se explicó en estas páginas, oficios antaño tan artesanales como la literatura irrumpen de la noche a la mañana como un híbrido donde los algoritmos auxilian al creador en la fijación de una trama. Los programadores escriben cada día menos código. Un doctorando será capaz de indagar más rápido en ciertas líneas de investigación, obteniendo respuestas estructuradas. Y así sucesivamente.

Como nunca es oro todo lo que reluce, el abrazo agéntico tiene algo de abrazo del oso. Un artículo publicado en Harvard Data Science Review alerta del inmenso poder de persuasión de los agentes, capaces de transformar una simple conversación en una serie de mercancías susceptibles de compra. Lo mismo puede ocurrir con la ideología y la política, pues al agente, igual que a X o TikTok, se le puede inculcar un sesgo que a su vez condicione la percepción del humano. Emerge una vez más la amenaza de la publicidad hipersegmentada y se confirma que un mal uso de la economía agéntica siempre tenderá a engordar los ingresos de las firmas que los suministran bajo la falsa apariencia del win-win. La sombra del capitalismo de vigilancia también se agranda.

“Necesitamos mucha, muchísima más transparencia sobre cómo se desarrollan estos agentes y sistemas de inteligencia artificial. Transparencia total sobre objetivos, patrocinadores y conflictos, auditorías independientes y control revocable de datos y permisos, exactamente la dirección contraria a la que ahora llevamos. De lo contrario, estaremos entregando las llaves de una sociedad fácilmente manipulable a nuestros amos de la inteligencia artificial: no a las inteligencias artificiales como tales, sino a los multimillonarios que las desarrollan”, reflexiona Enrique Dans, profesor en IE Business School, en su blog.

Junto a las sociedades digitalmente supervisadas se coloca progresivamente otra pieza inquietante: la del falso piloto automático. La caja negra del agente no es auditable pese a que la intención de dotarlo de un aura de mayordomo infalible obliga a fijar una serie de salvaguardas. Sin ellas, e incluso con ellas, sí que irrumpe en escena un segundo piloto automático: la mente humana, sometida desde hace lustros a la trampa del scroll infinito en unas redes sociales que podrían ser el preludio de lo que está por venir.

Queda prohibida toda reproducción sin permiso escrito de la empresa a los efectos del artículo 32.1, párrafo segundo, de la Ley de Propiedad Intelectual. Asimismo, a los efectos establecidos en el artículo 33.1 de Ley de Propiedad Intelectual, la empresa hace constar la correspondiente reserva de derechos, por sí y por medio de sus redactores o autores.