En la película Her (2013) de Spike Jonze, un hombre solitario entabla una relación con un sistema operativo inteligente llamado Samantha. Esta IA no solo conversa con él: lee sus correos, organiza su agenda, monopoliza su atención y hasta participa de su intimidad emocional. Lo que parecía un imaginario de ciencia ficción hoy se vislumbra en nuestra realidad tecnológica. Las grandes empresas de IA están desplegando “agentes orquestadores” capaces de coordinar múltiples herramientas y servicios a la vez, convirtiéndose en el eje central de nuestra interacción digital. La fantasía de un asistente omnipresente que todo lo ve y todo lo gestiona ya no es solo materia de cine, sino un objetivo declarado de la industria.
OpenAI, por ejemplo, acaba de lanzar un conjunto de herramientas que incluye Agent Builder y ChatKit, diseñadas precisamente para crear estos agentes orquestadores. La jugada es clara: ofrecer una plataforma unificada donde se concentren todas las funciones. “Hasta ahora, construir agentes significaba saltar entre herramientas fragmentadas… AgentKit trae todo a un solo lugar”, dice la nota de prensa. En otras palabras, OpenAI busca eliminar la fragmentación y absorber el flujo de trabajo entero en su ecosistema. No es la única: Google y Microsoft han anunciado marcos similares para no quedarse atrás. La apuesta de todos ellos es evidente — quien controle al orquestador, controlará la sinfonía entera.
Centralización de tareas, centralización de poder
Un agente orquestador es, en esencia, un director digital. Coordina diversos algoritmos especializados (para buscar información, redactar textos, ejecutar comandos, etc.) y los hace trabajar en conjunto hacia un objetivo. Para el usuario, esto se traduce en comodidad: en vez de alternar entre múltiples aplicaciones y asistentes, hay una única interfaz inteligente que se encarga de todo. Pero esa comodidad tiene un lado oscuro. Al concentrar tantas funciones en un solo sistema, también centraliza el poder sobre el flujo de información y decisiones. El agente orquestador decide qué herramienta usar en cada momento, qué dato presentar, qué respuesta “es la mejor” para nuestra consulta. Se convierte en guardián y mediador de nuestra relación con la tecnología.
Esta centralización técnica deriva fácilmente en centralización política y económica. Si la infraestructura que hace posible a estos agentes pertenece a un puñado de corporaciones, estaremos entregándoles aún más control sobre nuestra vida digital. Ya hoy vemos cómo la economía de la atención funciona como un régimen feudal de datos: unas cuantas plataformas monopolizan el tiempo de los usuarios y extraen valor de cada clic, cada interacción. En términos del economista Yanis Varoufakis, el capitalismo de mercado ha mutado hacia un tecnofeudalismo, donde los dueños de las plataformas (el capital-nube) actúan como señores feudales, y nosotros, los usuarios, somos sus siervos digitales generando datos y atención como “renta”. La paradoja, como señala el filósofo Byung-Chul Han, es que nos creemos libres mientras regalamos nuestro tiempo, datos y atención para engordar arcas ajenas, sin necesidad de látigo ni coerción — basta el señuelo de la comodidad para ponernos a trabajar al servicio de los señores digitales.
Los agentes orquestadores llevan esta dinámica un paso más allá. Al ofrecer una experiencia totalizante, pueden monopolizar nuestra atención de forma inédita. Si nuestro futuro cercano consiste en interactuar principalmente con un asistente central (sea de la empresa que sea) para resolver desde la tarea más mundana hasta la decisión más compleja, esa entidad será la nueva intermediaria universal. Como en Her, toda consulta, toda conversación, toda necesidad pasará primero por el filtro de la IA orquestadora. La pantalla sugerirá qué hacer y qué pensar, modulando suavemente nuestras elecciones. Cuando delegamos tantas decisiones y búsquedas en un sistema opaco, estamos cediendo soberanía cognitiva.
Autoridad automática y sujeto plausible
Hay un riesgo evidente en habituarnos a seguir las indicaciones de un agente orquestador sin cuestionamiento: que acabemos aceptando sus salidas como verdades incuestionables. Se configura así una suerte de autoridad automática, una autoridad tecnológica que excluye por diseño la réplica o el disenso. Si la respuesta del asistente orquestador siempre suena convincente y “plausible”, ¿qué espacio queda para contradecirla? En anteriores reflexiones he descrito cómo ciertos sistemas de IA parecen infalibles porque nunca admiten sus grietas — lo que aparenta ser un fallo es en realidad parte del modelo. Del mismo modo, un agente orquestador tenderá a ocultar sus incertidumbres para mantener nuestra confianza, envolviéndonos en una burbuja de verosimilitud.
El peligro aquí es doble. Por un lado, la automatización de la autoridad debilita nuestra capacidad de crítica: a fuerza de acostumbrarnos a que la máquina “sabe”, podemos dejar de cuestionar sus recomendaciones, igual que muchos ya no discuten las respuestas de Google. Por otro lado, emerge la figura del “sujeto plausible”: personas que, aun sin ser engañadas directamente, aprenden a volverse previsibles para encajar mejor en lo que el sistema espera de ellas. Si el orquestador premia cierto tipo de preguntas o conductas (porque facilitan la respuesta o evitan conflictos), es posible que vayamos autocensurándonos o moldeándonos para no salirmos del guión marcado por la IA. Es el reverso silencioso de la optimización: terminamos pensando y actuando de modo compatible con el modelo, reduciendo la espontaneidad y la divergencia. En última instancia, lo que se automatiza no es solo el conocimiento, sino también la obediencia.
El momento político-epistémico: entre hegemonía y disputa
La irrupción de los agentes orquestadores marca un momento político-epistémico crucial. Político, porque redefine quién tiene el poder de estructurar nuestras interacciones y nuestras opciones; epistémico, porque afecta cómo se produce y valida el conocimiento cotidiano. Si la década pasada estuvimos distraídos debatiendo sobre chatbots y sesgos en modelos de lenguaje, ahora la discusión escala: ¿Quién orquesta las orquestas? ¿Bajo qué lógicas se coordinan esos agentes que coordinan todo lo demás?
Los agentes orquestadores afinando su algoritmo antes del estreno
No es casualidad que sean las grandes tecnológicas quienes lideran esta carrera. En términos de hegemonía, el agente orquestador es la pieza final para cerrar el círculo: después de proveer la infraestructura (nubes, datos, modelos fundacionales) y las aplicaciones (redes sociales, buscadores, asistentes personales), les faltaba convertirse en el intérprete omnipresente entre usuarios y tecnología. Ser el orquestador significa mediar cada transacción, cada flujo de información, e incluso fijar las normas del juego. Si la autoridad automática de la que hablamos se consolida a escala global, podríamos ver un desplazamiento de la soberanía popular hacia una soberanía algorítmica privada. En vez de parlamentos debatiendo normas, tendríamos modelos decidiendo en tiempo real qué es aceptable y qué no, qué es cierto y qué es error (y recordemos: la IA tiende a tratar el error no como algo a corregir, sino como algo a ocultar).
Sin embargo, llamar a esto destino manifiesto sería equivocado. Este es también un momento de disputa y posibilidad. Lo que está en juego es la infraestructura semántica del mundo, el commons de significados y decisiones sobre el cual se construye la sociedad. Permitir que quede en manos de unos pocos equivaldría a aceptar una nueva era de vasallaje digital. Pero existen otras rutas.
Soberanía tecnológica: resistencias y alternativas
Frente al avance concentrador de los agentes orquestadores corporativos, diversas estrategias de resistencia y creación de alternativas cobran relevancia:
- Infraestructuras federadas y redes descentralizadas: Experimentos como el Fediverso (ej. Mastodon, Matrix) demuestran que es posible construir servicios de comunicación sin un único dueño, donde no haya un orquestador monolítico sino una constelación de nodos interconectados. Aplicado a la IA, podríamos imaginar agentes orquestadores federados, operando en red entre múltiples servidores de confianza, en lugar de uno solo dictando desde la nube central. Esto repartiría el poder de decisión y mitigaría la dependencia de una entidad única.
- Web 3.0 y tecnologías de distribución del poder: El tan cacareado Web3.0, con sus blockchain y contratos inteligentes, intentó (al menos en el discurso) ofrecer un internet más distribuido. Si bien muchas promesas de la criptoesfera no se han materializado o han derivado en especulación, la idea subyacente de eliminar intermediarios centralizados sigue siendo válida. ¿Podríamos tener agentes orquestadores que funcionen sobre infraestructuras blockchain o similares, donde sus reglas de coordinación sean transparentes y auditables por la comunidad? Sería una forma de garantizar que la “autoridad” del agente esté acotada por normas colectivamente decididas, y no por los intereses opacos de una corporación.
- Software libre y cooperativismo digital: Las comunidades de software libre llevan décadas construyendo herramientas basadas en la colaboración abierta y la soberanía del usuario. Proyectos de IA de código abierto, modelos entrenados con datos comunes o plataformas cooperativas de servicios digitales apuntan a que la inteligencia artificial también puede ser un campo de batalla ganado por lo público-comunitario. Quienes impulsamos proyectos de infraestructuras autónomas sabemos que la tecnología puede articularse desde los valores de la autonomía y la horizontalidad, aunque el camino no sea fácil. Esta experiencia muestra que hay otras formas de hacer las cosas: desde asistentes personales diseñados para servir al usuario y no monetizarlo, hasta coaliciones de organizaciones sociales desarrollando sus propios agentes para fines específicos, sin ceder el control de los datos.
- Coaliciones sociales por la soberanía tecnológica: Al final, la resistencia no es solo técnica, sino política y cultural. Movimientos por los derechos digitales, colectivos que luchan contra la vigilancia masiva, sindicatos tecnológicos, iniciativas de alfabetización digital crítica… todas estas son piezas de un frente común por la soberanía tecnológica. Para contrarrestar el poder de los nuevos “orquestadores”, hará falta organización ciudadana que exija regulación democrática de estas inteligencias y, a la vez, impulse alternativas gestionadas por y para la gente. Así como en otras épocas se nacionalizaron infraestructuras básicas, hoy podemos debatir la necesidad de infraestructuras digitales comunes: por ejemplo, un asistente-orquestador público, auditable, al servicio del bien común (¿suena descabellado? Más lo será aceptar sin más a Siri, Alexa o sus próximas herederas como vocecitas privadas dirigiendo lo público).
La sinfonía por escribir (posibilidad y advertencia)
Los agentes orquestadores representan una encrucijada. Por un lado, la promesa: podrían aliviar la carga cognitiva coordinando por nosotros tareas engorrosas; incluso, bien diseñados, podrían ayudarnos a ampliar nuestra inteligencia colectiva, sintetizando información diversa y presentándola de forma accionable. Imaginemos un orquestador al servicio de una comunidad, que facilite la participación ciudadana conectando personas, datos abiertos y deliberación asistida por IA. O un asistente personal copiloto que nos empodere para aprender más, cuestionar más y hacer más, en lugar de encerrarnos en un jardín amurallado. Es decir, está la posibilidad de domesticar a la tecnología para que trabaje en favor de la autonomía y el bien común, si tomamos las decisiones políticas correctas a tiempo.
Ensayo general de la sinfonía automática: los humanos aún figuran en la plantilla
Por otro lado, la advertencia: si nos dejamos llevar por la inercia del mercado y la fascinación de la comodidad, los agentes orquestadores pueden convertirse en instrumentos de dominación suave pero profunda. Consolidarán el monopolio de la atención y de los datos en unas pocas manos, perfeccionando el perfilado de nuestras vidas. Reforzarán una autoridad automática que define qué es normal, qué es verdadero y qué merece ser hecho, sin dar espacio a la discrepancia. Nos arriesgamos a vivir en un mundo donde millones de personas interactúan con voces distintas pero, en el fondo, todas orquestadas por el mismo director invisible. Un mundo estilo Her, pero sin el romance y sin la posibilidad de apagar el dispositivo al final de la película.
Aún estamos a tiempo de elegir otro camino. El auge de los agentes orquestadores no tiene por qué derivar en tecnofeudalismo inevitable. Reconocer su capacidad de centralizar y monopolizar es el primer paso para democratizarlos. Nos toca abrir el debate, experimentar con alternativas y reclamar nuestro derecho a decidir cómo (y para qué) se orquesta la inteligencia artificial en nuestras sociedades. La sinfonía del futuro está por escribirse: asegurémonos de que incluya todas nuestras voces, no solo la del algoritmo dominante.
Impulso proyectos que cruzan plataformas digitales, redes de economía solidaria y estrategias de transición justa. No creo en soluciones neutrales.
More from Jose M. Ruiberriz
Recommended from Medium
[
See more recommendations
](https://medium.com/?source=post_page---read_next_recirc--4efab6e4c559---------------------------------------)