Un día, Joanne McNeil viajó a Phoenix, capital de Arizona y una de las ciudades donde está instalada Waymo, compañía de supuestos vehículos autónomos en la que los usuarios pueden llamar uno de estos coches de la misma manera que harían con un Uber. Sin embargo, el servicio no funcionaba correctamente. “Durante esa semana llovió”, cuenta McNeil por videoconferencia desde Los Ángeles. “Y, aunque fuese una lluvia fina, esos coches se vuelven enormemente inseguros en esas circunstancias, porque tienen problemas en, por ejemplo, predecir la profundidad de un charco”.
Así que todas las veces que reservó un Waymo siempre había un conductor en el asiento delantero que lo manejaba como si fuese un vehículo normal, sin ninguna automatización. “Pregunté a uno de ellos y me dijo que normalmente están en una especie de ‘call center’ donde interactúan en remoto, apretando botones cuando hay un diagnóstico de averías. Esto desafía la idea de que es una tecnología fluida: de hecho, es increíblemente complicada y se necesitan muchísimos humanos para hacer conducir un coche autónomo. Ése es un ejemplo de la clase baja de la Inteligencia Artificial, igual que los moderadores de contenido en Facebook o quienes hacen scripts para chatbots”.
McNeil ha hablado de ello en su ensayo ‘Lurking’ (subtitulado ‘Cómo una persona se convierte en un usuario’) y su novela ‘Wrong way’, ambientada en una de estas compañías de vehículos autónomos y que fue designada uno de los mejores libros de 2023 por la revista ‘New Yorker’. “La obra gira en torno a la ‘gig economy’ y a los trabajos de bajo nivel creados por ella que implican una actividad humana disfrazada de lo que los clientes piensan que es IA“, detalla la autora.
Sobre esa disfunción hablará este viernes en Sónar +D, la plataforma de últimas tendencias de cultura digital dentro del festival de música avanzada, que se celebra durante el fin de semana y que contará con las actuaciones de Air, Kaytranada, Jessie Ware, Vince Staples, Laurent Garnier o Richie Hawtin, entre otros.
Dice McNeil que empezó a escribir ‘Wrong way’ en 2018 y que, “en aquella época, la mayoría de las predicciones sobre coches sin conductor eran muy optimistas“, a pesar de que todavía no circulaban por las calles. “La mía es una novela de ciencia-ficción en la que los trabajadores son los que conducen la mayor parte del tiempo. Y, la verdad, no pensaba que ambas cosas, libro y realidad, se materializaran al mismo tiempo”.
Para la escritora, “todas estas empresas presentan una farsa“. La estrategia para ofrecer una tecnología que no funciona tal y como ellos pregonan es conseguir que la sociedad cambie para que un día “por arte de magia de un deseo optimista”, funcione al fin. “Pero las cosas van cambiando y, aun así, sigue existiendo este proletariado de IA. Sus predicciones no son realistas; todo es un fraude”, afirma tirando de su propia experiencia: “Yo trabajé en un ‘call center’ hace unos 15 años. Mi labor se reducía a leer guiones en un ordenador cuando alguien llamaba. Y si ese alguien decía eso, yo respondía esto otro que estaba apuntado”. Ella intentaba apartarse del guion, pero era un empleo que, según sus palabras, “trituraba el alma: no podía haber nada humano con la gente”, incluso si estaba al teléfono con una persona. “Algo realmente alienante”.
Otro ejemplo: aquella tienda de alimentación que ideó Amazon, en la que entrabas y te llevabas lo que querías. Al final, recuerda McNeil, todo consistía en muchas personas vigilando el negocio. “Hay también un componente de vigilancia en estos empleos que los relaciona con el piloto de drones: tu capacidad de observación es muy clara, pero al mismo tiempo la experiencia de ver tan de cerca a alguien que no tiene ni idea de que existes (ni quién tiene en la mano la solución de sus problemas) es muy perturbador”.
Para estos nuevos oficios de IA, prosigue su razonamiento, lo único que hace falta es un salario por hora razonable. El problema es que, si se ve lo que ha sucedido con los conductores de Uber o los compradores de Instacart (un servicio de envío de compra del supermercado a casa), cuando estos empleos surgen están relativamente bien pagados. Mucha gente comienza a ganar mucho, es un trabajo flexible y suena bien. “Pero, poco a poco, con el paso del tiempo, empieza a ser cada vez menos rentable y conseguir el mismo dinero que al principio se vuelve complicado”, plantea McNeil. “Es un arma de doble filo, porque esa flexibilidad trae consigo una dificultad para empezar de nuevo y encontrar otro trabajo cuando llevas un tiempo dentro, dado que las empresas quieren construir este tipo de hábitos en las ciudades y que usar estos servicios se convierta en algo habitual para los clientes”, como en el caso del ‘delivery’ de comida.
De ahí el deseo de ver una mayor respuesta sindical, organizada, a la IA. Como sucedió con la huelga de la WGA (Writers Guild of America, el sindicato de guionistas estadounidense), que paralizó los rodajes en protesta por la amenaza de la robotización de la escritura.
Pero no se trata de la única explotación que conlleva la Inteligencia Artificial. “Mercantilizar tus datos personales, los de tu familia y tus amigos, es deshumanizador”, advierte McNeil. “Pongamos que escribiste una serie de tuits después de la muerte de tu madre. Un hilo de varios cientos de palabras que apareció hace diez años. Fue un momento realmente emocionante para ti y la gente respondió con increíble compasión: hubo una conexión real a través de Twitter. Pero ahora esos tuits están en una herramienta de entrenamiento de ChatGPT. E imagina que alguien escribe a ese asistente virtual preguntándole qué puede decirle a alguien que está de luto por la pérdida de su madre. Y lo que se genera es una variación de esas palabras que alguien te dijo y que son increíblemente personales. Es enormemente explotador e insensibilizador”.
“Todas estas empresas carecen de empatía y de alma”, sentencia la autora. “Surgen de personas que no saben cómo conectar. Lo podemos comprobar en la manera que tiene Mark Zuckerberg de mirar a los humanos, que ha dado lugar a una cultura mucho más antisocial. Porque él necesita las matemáticas para entender cuánto vale la gente. No podría lograrlo por sí mismo, sin los algoritmos. Así que nos vemos forzados a entrar en este grotesco embrollo de conexiones humanas, solamente porque él tenía el dinero y los inversores para gastar en este extraño producto que nunca debería haber existido”.
La gente comparte sus emociones en las redes sociales, pero también pueden ser un espacio para expresar ideas y sentimientos profundos, apunta la autora de ‘Wrong way’. “Lo que pasa es que ellos poseen la infraestructura, por lo que necesitamos que queden bien claros los derechos sobre la información que ponemos en esa infraestructura, para que no puedan escaquearse de sus obligaciones”. A McNeil le gustaría ver cambios en el ámbito de los protocolos, en lugar de depender del estándar de exclusión robots.txt, que impone sobre el usuario toda la responsabilidad de que su propio material sea desechado o no.
McNeil hace también una referencia a un reciente tuit de Sam Altman, el CEO de OpenAI e impulsor de ChatGPT, que ponía únicamente “her”, una referencia a la película de Spike Jonze de 2013 en la que un hombre (interpretado por Joaquin Phoenix) se enamoraba de la voz de su asistente virtual (Scarlett Johansson). La manifestación de Altman conecta con un popular meme con el siguiente texto: “Autor de ciencia-ficción: ‘En mi libro inventé el Tormento Nexus como una fábula aleccionadora’. Compañía tecnológica: ‘Por fin hemos creado el Tormento Nexus, del clásico de la ciencia-ficción ‘No creéis el Tormento Nexus’».
“Sam Altman no tiene las habilidades más básicas para el análisis crítico”, denuncia McNeil. “Si ves la película ‘Her’, no hay nada de sutil a la hora de mostrar cuán peligrosa puede ser esa tecnología. Pero si eres alguien a favor de la IA y te encanta la idea de reemplazar los seres humanos con esta humanidad artificial, entonces no ves un peligro, sino una meta”.
“La gente de Silicon Valley no tiene ideas originales”, redobla su crítica la escritora. “Así que se aproximan a la literatura para echar un vistazo, en busca de cosas que puedan robar, como quien mira un mapa de carreteras o un menú. No el artista, sólo quieren explotarlo. Se preguntan: ‘¿qué invento hoy?’. Y simplemente van pasando páginas, sin importarles si lo que encuentran es bueno o malo, porque lo suyo no es una respuesta a la cultura”. Se ve fácil, dice, con Elon Musk: “No es un lector ni tampoco un pensador realmente profundo; sólo es alguien cuyos objetivos son la creación y acumulación de riqueza para sí. Así que él deambula por estos volúmenes, buscando algo que suene guay y que pueda hacerle muy poderoso. El libro en sí no le importa lo más mínimo”.
¿Descorazonador? Pues todavía no hemos llegado a la peor parte. “Es extraordinariamente terrible para el medio ambiente”, confirma McNeil. Si vemos internet solamente como la World Wide Web y otras aplicaciones, explica, se puede afirmar que sirve como una función comunicativa específica para la sociedad: en la actualidad usamos el email y las páginas web como la comunicación central mundial. “Sin embargo, la IA no ha demostrado ser necesaria en ningún campo. Así que, hoy por hoy, está destrozando el medio ambiente sin ofrecer nada a cambio. No hay ninguna compensación, todavía, y sólo está produciendo cosas negativas: llena la web y las redes sociales de basura, contaminándolas, y los beneficios no es que estén por ver, es que no parece probable que aparezcan”. De ahí que su trabajo, en libros y conferencias, tenga un objetivo: “Mi sueño es que consigamos un internet más ecológico”.
