En mi artículo anterior conté una interacción inquietante con una inteligencia artificial que insistía, contra mi testimonio y evidencias directas, que no estuve donde estuve. Fotos, coordenadas, testigos. Nada la convencía. Allí introduje el concepto de humildad epistemológica, no como virtud individual sino como necesidad estructural en la era de la automatización acelerada.
Samuel Barco reaccionó a esa idea preguntando cómo, desde el activismo, podemos llevar esa humildad epistemológica a un contexto de aceleración capitalista y debilitamiento democrático.
Esta es una respuesta a esa pregunta. Y no tengo todas las respuestas, pero sé que la pregunta está bien hecha.
El algoritmo dijo que era un pato. Y nadie tuvo forma de corregirlo.
El error como síntoma de autoridad automática
Lo más perturbador del episodio con la IA no fue que se equivocara, sino que no dispusiera de mecanismos para rectificar. No era un sistema diseñado para dialogar, sino para decidir con base en patrones preestablecidos. Lo que no encajaba en sus datos simplemente no existía. Mi experiencia directa no tenía valor frente a la autoridad del modelo.
Esta lógica -no el fallo concreto - es la que debe preocuparnos políticamente. Porque no estamos ante errores técnicos, sino ante una estructura epistémica autoritaria. Una estructura que delega decisiones importantes en sistemas algorítmicos sin mecanismos reales de corrección, apelación o participación. Un poder sin rostro que habla por nosotros con una convicción aterradora.
Humildad epistemológica como infraestructura política
El filósofo Mark Coeckelbergh sostiene que, aunque las inteligencias artificiales carecen de conciencia moral, sí generan efectos reales en nuestras vidas. La responsabilidad por esos efectos no recae claramente sobre nadie, porque se dispersa entre programadores, empresas, datasets y usuarios. Ahí está la trampa: el poder se concentra, pero la responsabilidad se diluye.
Coeckelbergh propone entonces una responsabilidad distribuida, basada en una gobernanza que reconozca los impactos colectivos y permita la intervención desde distintos puntos de la cadena tecnológica.
La humildad epistemológica es un marco complementario: significa asumir que ningún modelo algorítmico es infalible ni neutral, y que toda decisión automatizada debe estar abierta a la disputa desde el saber situado y colectivo. No se trata de que las IA sean “más humanas”, sino de que reconozcamos su falibilidad como condición para una democracia tecnológica.
A veces no se trata de tener razón, sino de tener espacio para ser escuchado.
Cuatro acciones concretas para la sociedad civil
La Unión Europea ha mostrado recientemente “brechas significativas” en la supervisión efectiva de las grandes plataformas tecnológicas, incluso tras leyes como la Digital Services Act (DSA). Ante esa situación, la sociedad civil puede - y debe - actuar como vigilancia activa con estrategias específicas. No pedir permiso, desde luego.
Auditoría participativa
Las comunidades deben participar en auditorías externas de sistemas automatizados, especialmente aquellos que afectan derechos humanos o condiciones laborales. No se trata solo de detectar sesgos, sino de verificar si un sistema está diseñado para permitir disputas, rectificaciones y correcciones efectivas desde fuera. Que las auditorías se abran al saber situado, al contexto, al “eso no pasó así, porque yo estuve ahí”. Porque los algoritmos no entienden de huelgas, barrios ni servidores caídos. Un ejemplo claro es la Metodología CERMI para Auditorías Algorítmicas.
Transparencia algorítmica exigible
No basta con conocer qué hace un algoritmo, necesitamos entender por qué decide como decide. La transparencia real implica acceder a las razones detrás de cada decisión automatizada. No se trata de datos, sino de razones. Sin acceso a las razones, estamos ante un poder arbitrario disfrazado de precisión matemática. Ejemplos concretos son el Centro Europeo para la Transparencia Algorítmica (ECAT) y el Registro nacional de algoritmos de IA Ciudadana.
Datos comunes y control ciudadano
Impulsar infraestructuras colectivas de datos, gestionadas democráticamente por cooperativas tecnológicas u organizaciones sociales, es esencial para que las comunidades decidan cómo se utilizan sus datos y cómo se entrenan los sistemas algorítmicos, evitando la concentración de poder en grandes corporaciones. Si los datos son el nuevo petróleo, que los pozos sean colectivos.
Este enfoque ya se materializa en iniciativas como Salus Coop, una cooperativa ciudadana que promueve un modelo de gobernanza de datos de salud donde la ciudadanía controla sus propios datos, orientando su uso hacia el bien común. A través de su aplicación móvil, la ciudadanía puede participar en proyectos de investigación relacionados con la salud y el bienestar social, compartiendo sus datos de forma segura y transparente.
En el ámbito tecnológico, Som IT Cooperatiu es una cooperativa de segundo grado que agrupa proyectos cooperativos para impulsar un ecosistema IT que responda a los retos de digitalización de las entidades de la economía social y solidaria. Ofrecen soluciones digitales innovadoras basadas en herramientas mancomunadas y trabajo colaborativo.
A su vez, entidades como Asamblea de Cooperación por la Paz y plataformas como NexoONG exploran desde la práctica nuevas formas de soberanía digital, apostando por la protección del dato como derecho colectivo y no solo individual. En sus proyectos se ensayan formas concretas de control comunitario sobre la tecnología, combinando justicia social con justicia algorítmica.
Estas iniciativas demuestran que es posible construir alternativas tecnológicas que prioricen la soberanía de los datos y el control ciudadano, promoviendo un modelo más justo y democrático en la gestión de la información.
Litigio estratégico y educación crítica
Promover la alfabetización crítica, no solo digital. Formar activistas capaces de interpelar y cuestionar los sistemas automatizados. Educar para cuestionar, no solo para consumir. Cuando falle la impugnación técnica, el litigio estratégico debe ser una vía efectiva para frenar abusos y exigir rendición de cuentas legal. Porque si una máquina decide sobre mi vida, debería poder demandarla, ¿no? Ejemplos como Irídia o la Guía del CERMI sobre litigación estratégica marcan el camino.
Redistribuir el poder tecnológico
La humildad epistemológica no se limita a reconocer la falibilidad humana o técnica. Es una propuesta de redistribución democrática del poder tecnológico. No busca humanizar el algoritmo, sino someterlo a formas colectivas de control democrático. Necesitamos estructuras más impugnables, no algoritmos más amigables.
Si queremos proteger la democracia frente a la aceleración capitalista y la automatización sin rendición de cuentas, necesitamos:
- Infraestructuras técnicas que permitan la disputa.
- Instituciones públicas que garanticen transparencia real.
- Comunidades organizadas que reclamen sus derechos frente al poder algorítmico.
Beauvoir decía que crear significado es una responsabilidad colectiva. ¿Qué pasa cuando delegamos esa creación a sistemas automatizados incapaces de reconocernos en nuestra humanidad, en nuestra fragilidad compartida?
El Conde-Duque jamás aceptó una auditoría.
El error como oportunidad política
El problema no es que las IA se equivoquen. Es que no sepan reconocerlo ni rectificar. La humildad epistemológica no es una debilidad técnica, sino una fortaleza democrática: la capacidad de reconocer la falibilidad como motor político para transformar las infraestructuras tecnológicas desde abajo. El error del algoritmo debería servirnos para recuperar espacios colectivos de poder tecnológico.
🔗 Lectura relacionada Este artículo continúa la reflexión iniciada en “ Cuando una inteligencia artificial te dice que no estuviste donde estuviste ”.
Impulso proyectos que cruzan plataformas digitales, redes de economía solidaria y estrategias de transición justa. No creo en soluciones neutrales.
Responses (1)
Jose M. Ruiberriz he/him
What are your thoughts?
Recommended from Medium
[
See more recommendations
](https://medium.com/?source=post_page---read_next_recirc--7a2e7c1b7207---------------------------------------)