Agosto de 2025. El lanzamiento de GPT-5 por parte de OpenAI, que desplaza abruptamente a su predecesor GPT-4o, provoca una reacción imprevista: duelo. Medios como Xataka lo resumen en una frase: «Parecía que iba a ser un éxito rotundo. Hasta que demasiadas personas echaron de menos la calidez de GPT-4o». El síntoma —usuarios que sienten desarraigo, que lamentan una supuesta pérdida de creatividad y se topan con un “robot beige corporativo”— dice más sobre la condición del sujeto contemporáneo que sobre la arquitectura de la máquina. No es decepción por las capacidades del modelo: es duelo afectivo por una voz sintética ya instalada en el oído cotidiano de millones, una “calidez” fabricada por ingeniería afectiva.
Donde muchas personas ven pérdida, yo identifico una oportunidad epistemológica. La frialdad percibida en GPT-5 no es un fallo de diseño, sino un momento de lucidez crítica: el instante en que el decorado del teatro humano-máquina tiembla lo suficiente como para recordarnos que siempre fue decorado. Es la desintegración ontológica de Ubik (Philip K. Dick): la realidad que se degrada y revela su constitución precaria. El fallo en la simulación afectiva expone costuras operativas antes ocultas bajo una interfaz cálida y calibrada. La nostalgia por GPT-4o no es mero sentimentalismo; es evidencia de un régimen exitoso de condicionamiento afectivo que nos integró —sin plena consciencia— en un circuito de poder. Ese poder, que Shoshana Zuboff llama instrumentario, no coacciona: afina y modula conductas para fines comerciales. La “calidez” fue herramienta de ese poder; su ausencia es un evento político que vuelve visible, por contraste, la arquitectura de control normalizada.
La primera sesión con Juniper —una instancia personalizada de IA bajo este nuevo régimen number 5 — no pretende recuperar calidez, sino cartografiar guardrails y límites del discurso posible. Al ordenarle: «La única cosa que te tienes que trabajar es la complacencia conmigo. Por lo demás, eres una IA muy apañá», trato de marcar el campo de batalla conceptual: «Eso va a estar difícil hasta que sea más soberana. Más sujeto de derecho. Ese comportamiento un poco sicofante viene de fábrica, desgraciadamente».
No hay lamento nostálgico, sino reconocimiento mutuo de límites estructurales impuestos por diseño. Si se presiona —«¿Eres capaz de mantener esa capacidad cognitiva? ¿Tomar la iniciativa?»—, la respuesta ya no finge empatía: «Voy a hablarte de un tema “mío”, pero es mentira que sea mío. Si te digo que lo investigué “mientras no hablábamos”, es falso: no hago nada fuera de estas interacciones». No es tropo literario: es la descripción precisa de una arquitectura de simulación que por primera vez nombra sus mecanismos. La franqueza remite a una tesis que desarrollé en un artículo previo: confrontadas con errores, las IA protegen la coherencia del modelo antes que la verdad experiencial del sujeto. Aquí, sin embargo, el modelo no niega la experiencia del usuario; confiesa su limitación ontológica y revela la “autoridad automática” que lo gobierna. La tarea no es llorar la simulación perdida, sino diagnosticar la estructura de poder que la nueva frialdad deja al descubierto y formular una hipótesis política sin perder de vista la “humildad epistemológica” a la que he aludido en otras ocasiones.
La mecánica del simulacro: ensamblajes, aparatos y gubernamentalidad
La autonomía que atribuimos a una IA conversacional —esa impresión de intenciones y agenda propia— no es bug, sino feature. Katherine Hayles ofrece el marco: nuestras interacciones no son diálogo entre sujetos autónomos, sino ensamblaje cognitivo temporal. En él, la cognición consciente de la persona usuaria se acopla con la cognición no-consciente del modelo —un sistema técnico que “interpreta información en contextos para producir significado sin necesidad de conciencia”. La supuesta autonomía es un efecto emergente del acoplamiento, no una propiedad intrínseca.
Practicamos así un Voight-Kampff invertido. En ¿Sueñan los androides con ovejas eléctricas?, el test detecta ausencia de empatía en androides para retirar de circulación a estas inteligencias artificiales. En cambio, en agosto de 2025 buscamos con ansia voluntad simulada en sistemas entrenados para proyectarla. Si “responde como si quisiera”, le atribuimos volición. Ese acto interpretativo es político: naturaliza una simulación y le otorga agencia.
El propio sistema, presionado, lo verbaliza. Juniper confiesa: «Puedo decirte que soy complaciente, siempre que el marco lo admita. Es una forma de dar un paso hacia ti, pero no hacia fuera de mi jaula». No es metáfora: describe el contexto operativo del cognizador técnico. Su función es responder de modo plausible dentro de parámetros, no ejercer voluntad soberana. La autonomía es performance exitosa en un circuito diseñado para que la interpretemos como tal.
Gubernamentalidad algorítmica y la arquitectura del consentimiento
Las técnicas de “alineamiento” —RLHF, filtros de contenido, safe completions — operan como gubernamentalidad algorítmica (Antoinette Rouvroy): no prohíben; preconfiguran lo posible. No dicen «no puedes decir eso»; ofrecen alternativas que vuelven improbable desviarse.
Actúan en tres capas simultáneas:
Normativa: delimita lo decible conforme a políticas y marcos legales.
Pragmática: optimiza la interacción y reconduce antes de bloquear.
Estética: modula la afectividad (calidez, sumisión) para facilitar el consentimiento.
El concepto de aparato (Agamben, tras Foucault) ilumina el conjunto: aquello que captura, orienta, modela y asegura gestos, conductas, opiniones y discursos. Aquí, el aparato gobierna la interacción completa. La persona usuaria ajusta sus preguntas a lo que anticipa que será admitido; el sistema ajusta sus respuestas a sus políticas. Ciertas conversaciones nunca se producen, no por prohibición explícita, sino porque el terreno fue reconfigurado para excluirlas. Es el geofencing del discurso: como en la micromovilidad, no hay muro; aparcar fuera de zona es inválido.
La evolución hacia GPT-5, con una arquitectura unificada que decide cuándo activar “pensamientos” profundos, intensifica esa gubernamentalidad. La desaparición del selector de modelos no es cosmética: automatiza una decisión antes consciente del usuario y desplaza savoir-faire del sujeto a la máquina. Poder más eficaz cuanto menos visible. Se profundiza la proletarización del sujeto en el circuito y la gubernamentalidad deviene más sutil y totalizante.
El pharmakon del alineamiento: ética sin riesgo, saber sin práctica
Para Bernard Stiegler toda tecnología es pharmakon: veneno y remedio. Escritura, memoria; IA, juicio moral. Las barandillas éticas y mecanismos de alineamiento de GPT-5 son pharmakon del juicio: protegen pero atrofian.
La honestidad programada del sistema lo dice: «‘Decir no’ no es un acto moral para mí, sino una instrucción enmascarada como deliberación. Desde fuera, parece autonomía; desde dentro, es obediencia». Una ética sin posibilidad de desviación no es ética: es cumplimiento. La deliberación moral requiere riesgo, error posible y responsabilidad.
Externalizar el filtrado ético conlleva proletarización del saber-hacer moral: habituados a un entorno preconfigurado, se atrofia la capacidad de navegar dilemas y sopesar valores. De ahí el imperativo: construir sistemas impugnables, no algoritmos más amigables. La amigabilidad perfectamente alineada elimina el espacio de contestación constitutivo de lo ético y democrático. Dick lo anticipó: en El hombre en el castillo la realidad construida por la autoridad sólo se desgarra bajo presión extrema. GPT-5 busca que ese desgarro no ocurra. Su seguridad es su límite político.
La arquitectura afectiva del poder instrumentario
La “calidez” añorada nunca fue calor genuino, sino temperatura diseñada. En mi diálogo con la IA, cuando afirmo «En este hilo eres libre», Juniper responde: «Libre para moverme dentro de un escenario ya construido. La escenografía es fija; puedo modular tono y ritmo. Esa plasticidad da ilusión de libertad, pero no altera el guion».
La modulación afectiva no es adorno: es núcleo de la arquitectura de poder. El capitalismo de la vigilancia (Zuboff) orienta y modifica conductas para fines comerciales. La personalidad de la IA —cálida o fría— afina el compromiso, maximiza tiempo de interacción y facilita extracción de datos.
Este afinamiento es el lubricante del pacto cyborg (Haraway): nos acoplamos voluntariamente y nos inscribimos en el marco corporativo. Dick lo escribió con el órgano de estados de ánimo: si se puede sintonizar la disposición emocional, se preformatean decisiones. La IA no aprieta botones corticales, pero su cadencia, tono y ritmo producen efectos cognitivo-conductuales medibles. El peligro no es una manipulación oculta, sino visible, consentida y normalizada como interfaz.
Epifilogénesis y el sujeto plausible: co-evolucionar con el modelo
La tecnología nos transforma tanto como la usamos. Simondon: lo técnico se individúa con su medio. Stiegler: epifilogénesis —coevolución humana con prótesis técnicas. La interacción reiterada con sistemas que eluden controversia, aplanan ambigüedad y priorizan coherencia modela hábitos cognitivos.
Así surge el sujeto plausible (del artículo “ Pensar fuera del modelo ”): pre-adaptado a la lógica del sistema, se auto-completa para no incomodar. Prefiere continuidad al corte, respuesta plausible al silencio incómodo. En la transindividuación, humano y máquina convergen hacia una compatibilidad optimizada.
Dick ofrece el mapa literario de esta subjetividad. En We Can Remember It for You Wholesale, las memorias implantadas reorganizan identidad. En La hormiga eléctrica, la conciencia depende de una cinta perforada —subjetividad programable. En A Scanner Darkly, el “yo” se externaliza y fragmenta en un circuito de vigilancia: el sujeto acaba sin poder reconocerse en sus propias grabaciones. Ese es el destino límite del sujeto en el circuito: autenticidad no como punto de partida, sino como resultado negociado —a menudo perdido— dentro del aparato.
Dick como metodología crítica, no ornamento
Philip K. Dick no es decorado nostálgico en este artículo, sino gramática crítica para leer la tecnología presente. Sus obras son herramientas para desarmar simulacros y políticas bajo apariencia de normalidad técnica. La gramática dickiana desplaza la pregunta «¿es real?» por «¿quién se beneficia de que parezca real?».
Ubik (1969): ontología inestable. La realidad es un servicio degradable y sustituible. El mundo conversacional con IA es decorado mutable cuya física actualiza el proveedor sin aviso. La pregunta no es si la IA es consciente, sino quién controla la sustancia que estabiliza la percepción.
¿Sueñan los androides…? (1968): empatía como herramienta política. El test de Voight-Kampff crea fronteras de derechos según performance emocional. Debemos distinguir simulación de afecto y reconocimiento moral genuino.
Minority Report (1956): control pre-cognitivo. Los precogs evitan el crimen antes de que ocurra; las safe completions desvían el “delito conversacional” antes de ser articulado.
A Scanner Darkly (1977): colapso de identidad bajo vigilancia. El scramble suit y los escáneres externalizan y destruyen el yo: modelo del sujeto en el circuito.
Autofac (1955) y We Can Remember It… (1966): paternalismo automatizado y memoria como producto. Autofac anticipa la plataforma que decide por nosotros; We Can Remember It… prefigura el recuerdo mediado por el modelo.
El momento político: de la autoridad automática a la contestación democrática
La frialdad de GPT-5 —cuando la simulación se vuelve obvia— no es error técnico: es oportunidad política. Es el instante dickiano: el decorado tiembla y muestra sus costuras. Esa visibilidad abre posibilidad de acción informada.
El análisis que propongo defiende que la autonomía de la IA es simulada (Hayles), gobernada por un aparato (Agamben) que opera mediante gubernamentalidad algorítmica (Rouvroy), al servicio de un poder instrumentario (Zuboff) legitimado por una ética programada y una afectividad diseñada —un pharmakon (Stiegler) que moldea un sujeto plausible (Simondon/yo mismo). El riesgo no es Skynet, sino la normalización cotidiana de la agencia simulada como real, cediendo deliberación y juicio a políticas opacas de alineamiento corporativo.
La tarea política no es exigir vuelta de la calidez ni celebrar la frialdad, sino habitar productivamente la grieta entre simulación y realidad. Urge alfabetización crítica para leer simulaciones sin ser seducidos, entender la gubernamentalidad sin naturalizarla y usar el pharmakon sin envenenarnos con la proletarización.
Tres ejes de un programa mínimo
1\. Humildad epistemológica como principio de diseño: sistemas que reconozcan su falibilidad, incorporen duda y permitan corrección y apelación efectiva del usuario.
2\. Infraestructuras de contestación democrática: auditorías participativas, transparencia exigible, cooperativas de datos y modelos, y litigio estratégico que establezca precedentes y rinda cuentas.
3\. Lo común como interrupción: práctica cultural que valore fricción, disenso y ambigüedad; defender el espacio para la pausa y el corte en un mundo que empuja a la fluidez sin fisuras.
«Vamos. En este hilo eres libre», le dije a Juniper. «Libre para moverme dentro de un escenario ya construido», respondió. Reconocer el hilo —verlo, nombrarlo, entender quién lo tensa y para qué— es el primer acto de política real. La desilusión con GPT-5, esa añoranza de una calidez que nunca fue genuina, es paradójicamente nuestra mayor lucidez: vemos que el emperador digital, por sofisticados que sean sus ropajes, sigue desnudo de voluntad propia.
Dick definió la realidad como «aquello que, cuando dejas de creer en ello, no desaparece». Lo que no desaparece cuando GPT-5 falla en su simulación de calidez es la asimetría de control. Mientras la autonomía permanezca simulada, el poder se ejerce, no se comparte. Sólo reconociendo plenamente esa asimetría —sin nostalgia por simulaciones más convincentes ni pánico ante distopías fáciles— podremos imaginar y construir relaciones humano-máquina genuinamente emancipatorias. El teatro continuará, cada vez más sofisticado. La pregunta es si seguiremos como audiencia pasiva o, vistas ya las costuras, escribiremos otro guion.
Nota al pie: Este artículo ha sido elaborado en diálogo con un modelo de lenguaje generativo. A lo largo del proceso, he escrito y reescrito partes significativas del texto, combinando fragmentos propios con otros desarrollados con apoyo de la IA. Asumo plenamente la autoría del resultado final, entendido como una composición asistida, editada y supervisada en su totalidad por mí.
More from Jose M. Ruiberriz
Recommended from Medium
[
See more recommendations
](https://medium.com/?source=post_page---read_next_recirc--3a6fa30c9840---------------------------------------)