En su último ensayo, Ni Dios ni IA, el filósofo Mathieu Corteel se preocupa por nuestra propensión a delegar tareas en la inteligencia artificial, incluso si eso implica vernos despojados de nuestros poderes de acción, creación y toma de decisiones.
Mathieu Corteel lo deja claro desde el principio: no es ni un tecno-optimista ni un tecno-pesimista. En su último ensayo, Ni Dios ni IA (publicado por La Découverte ), el filósofo e historiador de la ciencia defiende un escepticismo ilustrado a la hora de pensar el auge de la inteligencia artificial.
Lejos de suscribir la idea de que la IA nos conduce hacia una especie de idiocracia (una sociedad gobernada por idiotas), el investigador asociado a Sciences Po y Harvard advierte sin embargo de los efectos perversos de la delegación sistemática de nuestros poderes de acción, creación y decisión a las máquinas. Al depender de la IA para todo, le preocupa, «se está borrando una parte importante de lo que hace que nuestros pensamientos y acciones sean tan ricos». En esta entrevista, Mathieu Corteel nos cuenta más sobre este fenómeno que, según él, amenaza gravemente nuestra inteligencia colectiva.
Usbek y Rica
En la introducción de su ensayo, afirman que “las IA se han involucrado tan profundamente en todas nuestras actividades cognitivas, sociales y culturales que se ha vuelto difícil distinguir entre humanos y máquinas». ¿Hemos entrado en una nueva era de hibridación?
Mathieu Corteel
En realidad, creo que hemos llegado a una forma de hibridación que no habíamos previsto, es decir, una hibridación cognitiva. El vínculo de continuidad psicológica que tejemos con estas tecnologías es tan fuerte que la aparente discontinuidad física queda oculta. La IA está tan omnipresente en nuestra vida diaria que ya no nos preocupamos por ella. Más aún porque algunas son invisibles: es el caso de las aplicaciones sanitarias, la regulación del transporte o incluso la vigilancia.
De este modo, el objeto técnico acaba desapareciendo detrás de su función. Ya no percibimos realmente la máquina en sí, sino la función lingüística o cognitiva que cumple. Ya no nos damos cuenta de que la inteligencia artificial está en el corazón de un sistema de expropiación y explotación de la inteligencia colectiva. Desde la acumulación primitiva de nuestros datos por parte de GAFAM, nunca han sido tan capturados y explotados con fines comerciales.
¿Qué sigue? En su ensayo, usted argumenta que la IA se está convirtiendo en un “superinconsciente parecido a una máquina”…
Lo que he notado muy recientemente es la integración de la inteligencia artificial en el juicio humano. Al individuo se le proporcionan objetos técnicos que le ayudan a tomar decisiones, supuestamente para orientar su vida de la mejor manera posible. Ahora, cualquiera puede, cuando se enfrenta a un problema personal (ya sea una relación, una tensión familiar u otras dificultades), pedirle a una IA, como ChatGPT, la solución.
Los laboratorios de investigación serios incluso proponen sistemas de IA capaces de mejorar nuestro juicio moral utilizando métodos filosóficos para ayudar a los usuarios a tomar decisiones óptimas. Esto es, por ejemplo, lo que está desarrollando el filósofo Julian Savulescu en la Universidad de Oxford.
Esta influencia sobre el juicio humano cruza un umbral que no había previsto hace diez años, cuando profundicé en estas cuestiones. Hemos entrado en un nuevo juego de ilusiones. En latín, in-lusio significa “entrar en el juego”. Por así decirlo, con la IA entras en un juego sin conocer las reglas; lo que nos conduce irremediablemente al fracaso. Al delegar parte de nuestras decisiones sociales y personales en estas máquinas, perdemos poco a poco esta conciencia de la regla, nuestra capacidad de reflexionar sobre nuestras decisiones de forma autónoma.
Es en este sentido que utilizo la expresión “inconsciente maquínico”. Al recurrir masivamente a estas herramientas para ayudarnos en nuestros juicios, se despliega un inconsciente colectivo mecánico en la sociedad. La IA está interfiriendo en el juicio humano, hibridándose con él e imponiendo estándares que, aunque invisibles, influyen profundamente en nuestras acciones y pensamientos. Lamentablemente, cada vez más nos encontramos confiando nuestras decisiones a tecnologías cuya influencia no apreciamos plenamente.
Al delegar constantemente la toma de decisiones y la realización de nuestras tareas a la inteligencia artificial, ¿acabaremos desposeídos de nuestra fuerza creativa?
Desde el lanzamiento de la versión 3 de ChatGPT, la inteligencia artificial creativa ha progresado a una velocidad vertiginosa, produciendo obras cada vez más sofisticadas. Ya sean imágenes, textos u otras formas de expresión, la IA genera ahora un flujo cultural tan vasto que tiene el potencial de superar en cantidad todo lo que la humanidad ha producido desde los albores de la escritura, el cine o la música.
Este fenómeno está provocando una grave preocupación en las industrias culturales. El sindicato francés del libro, por ejemplo, advierte de la acumulación de libros generados por IA en plataformas como Amazon. Estas obras, a menudo acompañadas de críticas escritas por IA, se benefician de una visibilidad desproporcionada, relegando las creaciones humanas a las sombras.
Pero lo verdaderamente preocupante es la creciente dificultad de distinguir qué es creación humana en esta vorágine de producciones artificiales. Tanto es así que un texto escrito por un humano podría confundirse con el trabajo de una máquina. De aquí surge una pregunta fundamental: en un mundo donde la IA lo genera todo, ¿podemos todavía considerar una obra humana como auténticamente “humana”?
A menudo utilizo la metáfora de la “Biblioteca de Babel” para ilustrar esta situación. En este mar de infinita información y combinaciones posibles, el significado se pierde en un océano de producciones cuya lógica escapa a la mente humana. Aunque este flujo está organizado por algoritmos, sigue careciendo de significado real. Podríamos entonces encontrarnos envueltos en una avalancha de contenidos inútiles e insignificantes. Peor aún, este contexto nos obliga a recurrir a la IA para distinguir entre lo verdadero y lo falso, entre lo humano y la máquina. Esto plantea una gran paradoja: ¿dónde está, en este contexto, el lugar del juicio humano?
¿Qué pasa con nuestro poder de actuar? ¿Nuestra máquina inconsciente también nos priva de ella?
Los dos están relacionados. Cada vez más, estamos externalizando nuestras actividades cognitivas más profundas a la IA, como la resolución de problemas y la escritura, lo que deteriora nuestra inteligencia colectiva. Estamos asistiendo a una forma de sustitución: nuestra capacidad de producir conocimiento común y compartido está siendo desplazada gradualmente hacia sistemas automatizados.
Esto plantea una pregunta eminentemente política: ahora que nuestra inteligencia colectiva parece confinada a centros de datos, en un mundo donde nuestros datos son capturados, interpretados y utilizados, ¿cuál es nuestra verdadera capacidad para crear bienes comunes juntos? ¿Cómo podemos seguir inventando colectivamente el mundo del mañana, cuando gran parte de nuestras decisiones están guiadas por sistemas de IA? Es urgente responder a esta pregunta a nivel humano y contrarrestar esta tendencia que tenemos a confiar en la IA para resolver nuestros problemas.
Un estudio publicado en enero por investigadores de Microsoft y la Universidad Carnegie Mellon de Pensilvania muestra que delegar tareas analíticas a IA generativas perjudica el pensamiento crítico en el lugar de trabajo. ¿Debemos temer un empobrecimiento general de nuestro espíritu crítico?
No creo en la idea de que la IA nos llevará a algún tipo de «idiocracia». Sin embargo, al delegarle cada vez más tareas, perdemos algo del proceso asociado al trabajo. Lo decisivo en la actividad humana no es tanto el fin en sí sino el proceso mediante el cual se alcanza. Si confías a una IA la redacción de un ensayo, no te aportará ninguna mejora personal ni una comprensión profunda del tema. Actuando, creando, pensando, nos convertimos en lo que somos. Este viaje es la verdadera esencia de cómo construimos nuestra identidad, y es esto lo que se borra, o al menos se altera, cuando delegamos demasiado en la IA.
Dicho esto, creo firmemente que el uso de la IA, cuando se gestiona adecuadamente, no disminuye nuestro potencial creativo ni nuestra inventiva. Si se utiliza de forma correcta y sabia, la IA podría convertirse en un verdadero aliado, permitiéndonos realizar tareas complejas que no podríamos lograr solos, como en los campos de la genética o las ciencias físicas. Aquí, la IA satisface una necesidad concreta: nos ayuda a procesar datos masivos que un cerebro humano no podría asimilar. En campos como el arte, la IA puede multiplicar las posibilidades creativas y abrir horizontes fascinantes.
Sin embargo, el problema surge cuando intentamos reducir el tiempo de creación, en detrimento del pensamiento y el esfuerzo. Hoy en día, en muchos casos de uso, la IA nos impulsa a omitir pasos. Sin embargo, esta aceleración de los procesos creativos y reflexivos socava la experiencia esencial del aprendizaje e impide que los individuos se co-construyan a sí mismos a través de la actividad misma.
En su opinión, la captura y explotación de la creación humana por parte de la IA es tal que se está convirtiendo en una especie de «Gigante del capitalismo cognitivo». ¿Qué quieres decir con eso?
El concepto de «capitalismo cognitivo» es descrito por varios pensadores, entre ellos Yann Moulier Boutang, André Gorz y Antonio Negri, como la captura y explotación de intangibles. Por “intangibles” entendemos aquello que aporta valor a cualquier forma de producción, pero que va más allá de la simple producción técnica o manufacturada. En otras palabras: símbolos, tendencias, inventiva, innovación, inteligencia, en definitiva.
Ciertas entidades han logrado monopolizar esta dimensión inmaterial. GAFAM ha estado a la vanguardia de esta dinámica, acumulando cantidades masivas de datos desde el principio y monopolizando los motores de búsqueda, las redes sociales y otras plataformas digitales.
¿Cómo salimos de este capitalismo cognitivo?
Ése es el punto. El capitalismo cognitivo implica una expropiación masiva de la actividad cognitiva humana. Se ha convertido en una especie de gigante moderno.
Este intangible, aunque desmaterializado, toma forma en los centros de datos donde crece exponencialmente. Este fenómeno no sólo consume grandes cantidades de energía, sino que también tiene un gran impacto ecológico. Esta imagen del Behemot es aún más pertinente cuando se la compara con el concepto de Leviatán de Thomas Hobbes, descrito como una trascendencia establecida por la multitud, es decir, por nosotros, los ciudadanos, a quienes delegamos nuestra voluntad. El Leviatán representa una forma de gobierno “legítimo”, basado en un contrato social.
El Behemot, por otro lado, encarna la discordia, el caos, el conflicto de todos contra todos. Lo preocupante es que la acumulación de intangibles, en particular a través de la exacerbación de la actividad cognitiva en las redes sociales, parece generar una forma de violencia social, una animosidad general entre los individuos. Esta dinámica eclipsa gradualmente la figura del Leviatán y aplasta a la multitud. Los estados-nación, que se supone debían gobernarnos y protegernos, se encuentran cada vez más subordinados o hibridados por los gigantes tecnológicos.
También es sorprendente observar que muchos sistemas de información estatales ahora están administrados por empresas como Microsoft y otros gigantes tecnológicos. Ha surgido un nuevo monstruo en la escena política, encarnado por estas empresas tecnológicas que ejercen una influencia cada vez mayor sobre nuestra sociedad al seguir una ideología libertaria de derecha.
Este gigante, en mi opinión, no es sólo un monstruo económico. Tiene un impacto nocivo sobre el ecosistema al privar a la inteligencia colectiva de sus beneficios. Estos gigantes tecnológicos contaminan nuestro medio ambiente y dejan de lado conflictos sociales que quedan irresueltos, incluso insolubles, porque han contribuido a perturbar las estructuras de gobernanza. La situación es aún más grave porque estos actores están exacerbando las tendencias reaccionarias en línea y alimentando los conflictos sociales de una manera cada vez más intensa. Frente a esto, sólo la reapropiación de los bienes comunes por parte de la multitud puede abrir mundos posibles y alegres.
¿Podemos imaginar un futuro en el que nuestras relaciones con la IA nos beneficien más de lo que nos priven?
Actualmente, existe una especulación masiva en torno a la IA, creando falsas necesidades de expandir su uso en el mercado. Se están invirtiendo cientos de miles de millones de dólares en este sector sin obtener resultados convincentes. En realidad, entre el 70 y el 80% de las implementaciones en las organizaciones fracasan, lo que demuestra que no satisfacen las necesidades reales.
En mi opinión, sería más pragmático e inteligente pensar colectivamente en qué queremos preservar de la inteligencia humana y qué podemos delegar en la máquina. Aunque la regulación europea es más prometedora que la desregulación estadounidense , no será suficiente si no integra las necesidades reales de los ciudadanos. Esta reflexión debe ser realizada por todos los actores de la sociedad para satisfacer nuestras necesidades concretas, lejos de los intereses de las grandes empresas. Sin esto corremos el riesgo de encontrarnos en un gigantesco laboratorio experimental donde seremos los conejillos de indias. Sin pensamiento colectivo, los efectos secundarios de la IA serán incontrolables.
¿Es usted optimista al respecto?
Sigo siendo bastante optimista cuando veo que las generaciones más jóvenes promueven la diversidad y la sostenibilidad. Desempeñarán un papel clave en el desarrollo de la IA del mañana. La IA puede convertirse en una herramienta poderosa, siempre que se utilice en una dinámica abierta y colaborativa. Si nos damos los medios, sin dejar que los gigantes tecnológicos y los gobiernos dominen este sector, realmente podemos crear una inteligencia artificial que sea beneficiosa para la sociedad.
Por Émilie Echaroux para Uzbek & Rica – 9/4/25
