Lucha contra la desinformación e inteligencia artificial: una inquietante unión – Converses a Catalunya

En los últimos meses están emergiendo dos tendencias que podrían tener en un futuro no demasiado lejano un impacto en la sociedad, que es todavía hoy difícilmente imaginable por su profundidad.

Estamos hablando de la combinación, por un lado, de lo que buena parte de las élites políticas, institucionales y mediáticas llaman “desinformación”, y por otro, de una revolución tecnológica, la de la inteligencia artificial o IA.

Vamos por partes. La aparición de las redes sociales basadas en internet (al principio, Twitter y Facebook ) tuvo una rápida aplicación en la política, tanto en las democracias (campaña electoral de Barack Obama en 2008) como en las dictaduras (revueltas a raíz de las mal llamadas “primaveras árabes” unos años después).

Si bien en un primer momento las élites aplaudieron el papel de estas redes como un instrumento de democracia y libertad, su tono cambió en breve. El giro se consolidó con la anexión de Crimea por parte de Rusia en 2014 y las sucesivas campañas de manipulación online llevadas a cabo por agentes del Kremlin.

Desde entonces, el foco de atención se ha centrado en la manipulación de la opinión pública a través de las redes, que alcanzó un primer punto álgido en la campaña electoral que propulsó a Donald Trump a la Casa Blanca en 2016. Desde entonces, la atención que las élites políticas occidentales han puesto sobre lo que han venido a llamar “desinformación” no ha dejado de crecer.

El peligro radica en que el uso que se hace del término “desinformación” tiene trampa: sólo es desinformación la propaganda de los demás, nunca la propia.

Así pues, en nombre de la salvaguardia de la democracia y de la libertad de expresión, la Comisión Europea busca desplegar medidas para, supuestamente, proteger a los ciudadanos europeos de malas influencias. Y es que, como afirmó hace unos meses la propia presidenta de la Comisión Europea, Ursula von der Leyen, «la principal preocupación durante los próximos dos años es la desinformación«.

El problema de fondo con este objetivo radica en que, en un sistema democrático, donde la soberanía se supone que es de los ciudadanos, los políticos tratan a sus propios electores como niños incapaces de discernir el bien del mal, la verdad de la mentira.

Si son los políticos, y no los propios ciudadanos, quienes dictaminan qué es información y qué desinformación, el edificio democrático liberal queda socavado hasta sus últimos cimientos.

Dicho de forma más radical, una democracia en la que los ciudadanos necesitan ser acompañados hasta las urnas por el propio poder político no merece su apelativo (aunque quizás sí el de “democracia popular” en china).

Hasta ahí el fondo. Ahora toca entrar en uno de los medios para conseguirlo, que no es nada menos que la inteligencia artificial. Se habla del papel revolucionario que los motores de IA generativa tendrán sobre el mundo del trabajo .

Sin embargo, existe una cuestión clave que no es el motor en sí mismo, que puede ser más o menos potente, sino la forma como éste se entrena y las manipulaciones que sus entrenadores (humanos) ejercen para conducirlo hacia las respuestas que interesen.

Hace poco estalló el escándalo del motor de la matriz de Google , bautizado Gemini, que iba tan cargado de ideología woke que conducía a aberraciones históricas, como representar pictóricamente a los padres fundadores de Estados Unidos como hombres afroamericanos y amerindios.

Lógicamente, la trampa era demasiado evidente como para que pasara desapercibida, pero demostraba de forma inmejorable el potencial de manipulación humana de una herramienta que precisamente debe permitir sustituir o complementar el trabajo humano.

Mucho más revelador es el hecho de que grandes medios de comunicación cercanos a los poderes políticos (los mismos que se reivindican como combatientes oficiales de la “desinformación”), como Le Monde y El País , han expresado su interés en que los motores de inteligencia artificial se entrenen con sus hemerotecas.

Basta imaginarse el refinamiento que podría adquirir un asistente pilotado por IA que aprende únicamente desde las editoriales firmadas de estos diarios, reconocidamente progresistas y laicistas. No está nada claro que el usuario medio de internet, sin una especial formación política y cultural, sea capaz de distinguir los hechos y datos objetivos de la pura ideología en vena.

Este panorama, al menos inquietante, es en último término posible gracias a la unión de intereses (y a menudo de ideologías también) entre buena parte de la clase política y sus medios afines, por un lado, y las grandes empresas tecnológicas, por otro, que juntos pueden llegar a conformar un movimiento antiliberal que algunos autores han llamado “neofeudal”.

Print Friendly, PDF & Email

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *