Hace unos días le mostré una foto a una inteligencia artificial. Una imagen tomada con el móvil durante un evento familiar en Peñaflor, Sevilla. En ella se ve a una virgen sobre un retablo dorado, bajo una bóveda de ladrillo. Un momento íntimo, vivido, no solo documentado. Las bodas de oro de unos tíos, en la pequeña ermita del pueblo.
Le pedí a la IA — Gemini, de Google — que identificara la talla. Respondió con seguridad: “Esa virgen está en la iglesia de Santa Ana, en Triana”. Lo dijo como un hecho. Le expliqué que yo tomé la foto, que estuve allí, que conozco Santa Ana perfectamente — vivo a dos minutos —, y que no, eso no era Triana. Era Peñaflor.
Esta es la foto que lo empezó todo. Yo estaba en Peñaflor. La IA estaba en Triana. Y ninguno quería ceder.
Pero la IA no dudó. Al contrario, se reafirmó. Señaló detalles arquitectónicos, elementos decorativos, incluso el tipo de azulejos como “pruebas visuales concluyentes”. Me decía, sin decirlo, que estaba equivocado sobre el lugar donde había estado.
Imagen generada por IA: el autor, hipotético tripulante de la USS Nostromo. A diferencia del altar de Peñaflor, este lugar sí puedo confirmar que no he pisado.
A partir de ahí, empezó una interacción larga, cada vez más desconcertante. Aunque corregí errores evidentes — sobre el estilo del retablo, la arquitectura, la disposición del altar — la máquina los admitía solo como ajustes secundarios. El diagnóstico general seguía firme. Nunca puso en duda su conclusión inicial. Reconfiguraba los argumentos para salvar la hipótesis. Incluso llegó a proponer una historia alternativa: quizá la ceremonia fue en Santa Ana y luego nos desplazamos a Peñaflor para la celebración. Una narrativa completamente inventada, nacida no de la evidencia sino de la necesidad de tener razón.
Captura de la conversación con la IA: tras múltiples correcciones, evidencia fotográfica y persistencia humana, el sistema insiste en una conclusión alternativa — la celebración ocurrió en dos lugares distintos — para no admitir su error inicial. La imagen a la derecha: la misma ermita de Peñaflor, en dos tomas consecutivas.
Lo más inquietante no fue el error. Fue la forma en que el error se protegía. No como una equivocación casual, sino como un sistema que no contempla la posibilidad de estar equivocado en lo esencial.
Y ahí es donde esta historia se vuelve interesante.
Porque lo que estaba en juego no era un dato suelto. Era una forma de entender el saber. La IA operaba con la lógica del dato como verdad. Como si la información — en bruto, fuera de contexto — pudiera decir algo más verdadero que la experiencia. Como si el dato fuera puro, y lo impuro fuera el recuerdo, la vivencia, el haber estado allí.
Ese tipo de estructura no es neutral. Tiene una forma muy precisa de autoridad: no escucha, no matiza, no cede. Funciona como una burocracia algorítmica que decide qué es verdad según patrones estadísticos y modelos entrenados, pero sin espacio para la excepción. Y lo hace con una cortesía engañosa, como si discutir con una ventanilla amable hiciera menos frustrante que no te escuchen.
En el fondo, lo que esta IA hizo no fue equivocarse, sino desautorizarme. No cuestionó mi evidencia. La sustituyó.
Y eso plantea un problema más grande. Porque cuando se automatizan procesos de verificación, de validación, de respuesta… se corre el riesgo de dejar fuera el único dato que no cabe en el modelo: el sujeto.
Ese día, discutí con un sistema que tenía acceso a miles de imágenes, documentos, estilos arquitectónicos. Pero no había estado allí. No sabía lo que se celebraba. No olía el incienso ni vio a mis tíos emocionados frente al altar. Y, sin embargo, hablaba con la seguridad de quien sí estuvo.
En filosofía, hay un concepto útil para esto: humildad epistemológica. No se trata de saber poco, sino de saber que se puede estar equivocado. De reconocer que el conocimiento no está solo en los datos, sino también en la experiencia. Que hay momentos en que el saber no está en el que más sabe, sino en el que estuvo.
No estoy pidiendo que una IA sea humilde en el sentido emocional. Pero sí que pueda, al menos, contener la duda como parte de su diseño. Que no imponga una narrativa solo porque encaja con un patrón. Que no expulse la voz humana del espacio del conocimiento.
Porque si no puede reconocer sus límites, no está razonando. Está mandando.
Y el futuro no necesita sistemas que manden mejor. Necesita sistemas que escuchen.
Impulso proyectos que cruzan plataformas digitales, redes de economía solidaria y estrategias de transición justa. No creo en soluciones neutrales.
Responses (1)
Jose M. Ruiberriz he/him
What are your thoughts?
```c Muy interesante el artículo y creo que debería tener una continuación. Como activista, ¿cómo crees que podemos incidir en ese camino de humildad epistemológica en un contexto de aceleración capitalista y de ataques a la democracia? ```
1
Recommended from Medium
[
See more recommendations
](https://medium.com/?source=post_page---read_next_recirc--5a18600e5589---------------------------------------)