Inteligencia artificial | Matteo Pasquinelli: «El problema de la IA no tiene que ver con la inteligencia, sino con los monopolios» – El Salto
Matteo Pasquinelli es profesor de Filosofía de la Ciencia en la Universidad de Venecia Ca’ Foscari, y su investigación se sitúa en la intersección de la filosofía de la mente y la economía política. Sus trabajos sobre la IA —como el Nooscopio, junto a Vladan Joler— se ocupan, principalmente, de historizarla y demistificarla. En The Eye of the Master (Verso, 2023) defiende la siguiente tesis: «¿Qué es la IA? Una visión dominante la describe como una “imitación de la inteligencia”, que supuestamente debe encontrarse en la lógica secreta de la mente o en la fisiología profunda del cerebro, como por ejemplo en sus complejas redes neuronales. En este libro sostengo, por el contrario, que el código interno de la IA no está constituido por la imitación de la inteligencia biológica, sino por la inteligencia de las relaciones laborales y sociales.»
1. Abordas la inteligencia artificial desde una epistemología histórica comprometida con la tesis marxista según la cual las relaciones de producción determinan el desarrollo de las fuerzas productivas. Existe un corpus cada vez mayor de literatura marxista sobre la IA, como Revolutionary Mathematics de Justin Joque (que se centra en la estadística como base metafísica de la objetivación algorítmica) o Inhuman Power de Nick Dyer-Witheford, Atle Mikkola Kjøsen y James Steinhoff (una brillante crítica del tecnooptimismo con respecto a la automatización y el postrabajo). ¿Qué herramientas analíticas y metodológicas del marxismo siguen siendo útiles para los debates actuales sobre computación?
La literatura marxista sobre la IA forma parte de un debate mucho más amplio y antiguo en economía política sobre la automatización, desde la Cuestión de la Maquinaria en la Inglaterra del siglo XIX hasta las discusiones sobre la descualificación en la teoría del proceso laboral, por mencionar tan solo dos ejemplos. Dentro del gran archipiélago del materialismo histórico (y la epistemología histórica de la ciencia y la tecnología), todavía hace falta más cooperación y diálogo entre diferentes metodologías y escuelas de pensamiento. La IA es un campo nuevo y creo que necesitamos un análisis sistémico de la automatización antes de apresurarnos a dar explicaciones sencillas. Existen al menos tres grupos de teorías de la automatización (en realidad cinco, pero no tenemos tiempo para expandirnos aquí): las teorías del valor, que la conceptualizan como un proceso dinámico moldeado externamente por los imperativos del capital y los ciclos de inversión; las teorías laborales, que van más allá de la lógica del mercado atendiendo también a las necesidades materiales de la producción y el proceso de trabajo; y las teorías del punto de vista, que inciden en el antagonismo social y las jerarquías de género, raza y clase.
Estas posiciones son comunes entre los autores marxistas, pero Marx intentó elaborar una síntesis de las tres. En los famosos capítulos sobre maquinaria del primer volumen de El Capital, integró una teoría del valor de la automatización con el papel de la división del trabajo (una teoría laboral de la automatización inspirada por Charles Babbage) y del antagonismo social (una teoría del punto de vista de la automatización también influenciada por la Cuestión de la Maquinaria y el ludismo).
«Reapropiarnos de la IA no tiene sentido si no cambiamos las relaciones sociales que impulsaron su desarrollo.»
2. Siguiendo a Babbage, propones una teoría laboral de la IA según la cual su diseño sigue el esquema de la división del trabajo. Este marco enfatiza la inteligencia que surge de la cooperación laboral, no solo en forma de conocimiento científico o habilidades lingüístico-cognitivas (como sugiere la noción de “intelecto general” introducida en los Grundrisse de Marx), sino también de microdecisiones espontáneas y gestos inconscientes. Además, sostienes que el objetivo de esta captura algorítmica no es reemplazar tareas individuales sino funciones gerenciales, por lo que el escenario futuro –lejos de la automatización total– será la multiplicación de empleos precarios. ¿Deberíamos, por tanto, reapropiarnos de la IA como un bien público e impedir su privatización mediante la propiedad y el control colectivos? ¿O, por el contrario, su propio diseño reproduce estructuras capitalistas de explotación a las que hay que resistir mediante el sabotaje y el rechazo?
Has apuntado a una cuestión central: el diseño de las relaciones sociales que moldean y son moldeadas por los artefactos tecnológicos. Reapropiarse de la IA no tiene mucho sentido si no cambiamos las relaciones sociales que impulsaron su desarrollo, es decir, la forma de sociedad que gradualmente se sedimentó en sus vastos conjuntos de datos de entrenamiento y anteriormente en los gigantescos centros de datos de la sociedad de Internet. El problema de la IA no tiene que ver con las definiciones de “inteligencia”, sino con los monopolios globales de las grandes plataformas. Si nos centramos en la infraestructura material de estas plataformas, en lugar de distraernos con términos engañosos como “inteligencia”, podemos ver las cosas de otra forma: en el caso de ChatGPT, por ejemplo, tenemos millones de personas conectadas desde su casa o la oficina a un único centro de datos ubicado en Utah donde está alojado este gran modelo de IA, que brinda respuestas a tal multitud de personas conectadas desde todo el mundo.
«El problema de la IA no tiene que ver con las definiciones de “inteligencia”, sino con los monopolios globales de las grandes plataformas.»
Por lo tanto, la IA no aparece como un robot antropomórfico que reemplaza al trabajador individual, sino como un monstruo mecánico o un autómata colosal que orquesta una multitud de usuarios-trabajadores. No estamos asistiendo a un fenómeno de sustitución de mano de obra, sino más bien de desplazamiento y orquestación desde un sistema extremadamente centralizado que se estructura como un monopolio. Esto es, esencialmente, ChatGPT: un modelo algorítmico de dimensiones monstruosas, alojado dentro de un centro de datos en una ubicación remota para orquestar las microtareas (y la vida) de millones de trabajadores. La paradoja de la IA es que no reemplaza a los trabajadores, sino que los multiplica. En lugar de acabar con el empleo, genera subempleo: una precarización del mercado laboral en la que los trabajadores se ven obligados a trabajar cada vez más. Por supuesto, este destino no es inevitable. Lo que sugieren las teorías de la automatización que expuse al comienzo es que la composición tecnológica del trabajo puede cambiarse transformando la composición social y política de una época determinada.
«La paradoja de la IA es que no reemplaza a los trabajadores, sino que los multiplica; en lugar de acabar con el empleo, genera subempleo.»
3. En este sentido, el ‘amo’ mencionado en el título ya no está encarnado en un individuo humano, sino codificado en un sistema algorítmico; se trata, como señaló Marx, de un poder integrado por “la ciencia, las gigantescas fuerzas naturales y la masa del trabajo social encarnado en el sistema de maquinaria”. Esta definición cyborgiana, que incluye componentes sociotécnicos y ambientales, ofrece –en palabras de McKenzie Wark– ”una imagen inusual de la simbiosis humano-máquina bajo el comunismo, distinta de las habituales narrativas antagónicas o alienantes“. ¿Qué camino debería seguir esta simbiosis para asegurar la reciprocidad ecológica entre humanos, no humanos, la biosfera y la tecnosfera?
Como explico en el libro, en el paso de los Grundrisse a El Capital, Marx reemplazó las expectativas utópicas en torno al ”intelecto general“ (general intellect) por la figura material del ”trabajador colectivo” (Gesamtarbeiter), que era otro nombre para la cooperación laboral. En el libro utilizo la figura del trabajador colectivo como una especie de superorganismo que conecta humanos y máquinas, también para marcar el paso de la fábrica industrial a la era de la cibernética y sus experimentos de autoorganización. Al observar la composición de las infraestructuras de ChatGPT, en última instancia, no es difícil imaginar la IA como una manifestación más del trabajador colectivo, que para Marx era el actor principal de la producción industrial. Existe una conciencia cada vez mayor del frágil equilibrio entre la biosfera y la tecnosfera, pero deberíamos incluir lo que Jürgen Renn ha llamado “ergosfera”: la esfera de la producción de conocimiento y la cooperación laboral. No quiero sonar demasiado “productivista”, pero ¿por qué no incluir a todos los seres vivos, humanos y no humanos, en la figura del trabajador colectivo?
En el libro muestras la influencia de la racionalidad económica en las teorías de la mente, frente a la idea de que el desarrollo de IA responde únicamente a los avances en el modelado cerebral y la psicología del aprendizaje. ¿Pueden algunos enfoques contemporáneos, como las hipótesis de la cognición extendida, contribuir a la emancipación de “la inteligencia emergente de la división del trabajo”? ¿O también buscan la cuantificación y mecanización de las capacidades cognitivas en beneficio del capitalismo?
No sé si he entendido la pregunta correctamente, pero debemos ser francos y precisos: ¡la cognición siempre ha sido extendida! La civilización humana se expandió a través de un circuito de retroalimentación continua entre nuestros cerebros, manos y artefactos técnicos. Siempre externalizamos nuestros modelos mentales en artefactos técnicos e interiorizamos nuestros artefactos técnicos en nuevos modelos mentales, y así sucesivamente. Los arqueólogos y paleontólogos lo saben desde siempre. Si los filósofos analíticos necesitan “experimentos mentales” para demostrar lo obvio es su problema. Hoy necesitamos una filosofía de la mente progresista, anclada en la historia material y cultural de este planeta; necesitamos una epistemología histórica y política, y la filosofía analítica claramente no la proporciona.
Aunque el objetivo del libro no es ofrecer un prospecto, insistes en que la teoría laboral de la IA no es solo un principio analítico sino también sintético. Para concluir, ¿podrías mencionar algunas vías de acción o ejemplos que contribuyan a la igualdad material, la justicia social y el florecimiento humano?
Es difícil resumir estas cuestiones, pero considero que cualquiera que proponga una metodología de análisis político debe proporcionar también una metodología de síntesis política. Este fragmento de Romano Alquati, escrito en 1963, sigue resonando en mi mente: “La cibernética recompone global y orgánicamente las funciones del trabajador colectivo que se pulverizan en microdecisiones individuales: el bit vincula al trabajador atomizado con las figuras del Plan”. Se puede parafrasear de esta manera: la tecnología (incluida la IA) primero atomiza las relaciones sociales y luego las recompone en sus propios términos, proporcionando una cuantificación de dichas relaciones sociales que es crucial para la planificación capitalista. Esta atomización es un fenómeno de separación política del cuerpo social que todo el mundo experimenta, por ejemplo, con las redes sociales. Creo que hoy en día todo el mundo tiene un deseo inconsciente de iniciar prácticas para desvincularse de tales aparatos. Pero intentemos encontrar aquí un caso que vaya más allá de Occidente y su capitalismo de plataformas.
«La tecnopolítica contemporánea debería crear prácticas de autonomía social, fomentar una cultura de invención y desarrollar una contrainteligencia colectiva.»
Pienso en el caso de Agristack, una infraestructura masiva de extractivismo de conocimiento que se ha creado para recopilar datos de agricultores en India. El gobierno propone utilizar tecnologías como Big Data, Internet de las cosas, IA e incluso blockchain para “duplicar” los ingresos de los agricultores, argumentando que el problema es la asimetría de información. El gobierno dice que las nuevas tecnologías pueden ayudar a evitar el desperdicio de cultivos y las plagas. ¿Quién lo niega? Las asociaciones de agricultores, sin embargo, se quejan de que la iniciativa parece implementar políticas neoliberales y que el gobierno debería consultarles antes de concebir un plan de este tipo. Creo que este es un buen ejemplo de cómo la IA no es sólo una cuestión administrativa sino que está afectando a todos los sectores de la sociedad. La iniciativa de los agricultores indios apunta a los principales desafíos de la tecnopolítica contemporánea: crear prácticas de autonomía social, fomentar una cultura de invención y desarrollar una contrainteligencia colectiva.
