Podemos acordar que, entre sus diversas concepciones, la Inteligencia Artificial (IA) es una rama especial de las ciencias de la computación, cuyo enfoque está dirigido al desarrollo de sistemas y algoritmos capaces de realizar tareas que requieren inteligencia humana. En términos generales, esta noción se emplea para englobar a un amplio espectro de modelos informáticos que poseen la habilidad de razonar, aprender y percibir. Son estos mismos modelos los que están detrás de los asistentes de voz, de los algoritmos de reconocimiento facial, de las aplicaciones GPS o de la función de texto predictivo en los smartphones.
Si bien tenemos varios años conviviendo con la IA, no fue sino hasta la llegada de generadores de imágenes como Dall–e2 o Midjourney, o el modelo de lenguaje ChatGPT, cuando sentimos que el futuro nos alcanzaba. Fueron estos desarrollos los que reavivaron la conversación en el último año, debido a que su difusión orilló a muchas instituciones —entre ellas a las Instituciones de Educación Superior— a posicionarse.
«El uso ideal de la IA debe ser el de una suerte de copiloto capaz de auxiliar a las personas y a las instituciones a tomar mejores decisiones».
En agosto de 2023 la Ibero Ciudad de México celebró el foro Construyendo el Futuro de la Inteligencia Artificial. Entre los invitados al evento estuvo el franciscano Paolo Benanti, asesor en temas de IA del papa Francisco. Durante su ponencia Benanti insistió en la necesidad de modelar «perfiles éticos» para las inteligencias artificiales; es decir, perfiles que «ayuden a los seres humanos a ser mejores seres humanos».
En el contexto de la charla la afirmación de Benanti tuvo la precisión y el coraje de destacar la preeminencia de lo humano sobre lo tecnológico. En su opinión —como en la de tantos otros especialistas—, el uso ideal de la IA debe ser el de una suerte de copiloto capaz de auxiliar a las personas y a las instituciones a tomar mejores decisiones, y no el de un piloto automático en el cual deleguemos nuestras funciones, dejándonos así a merced de los algoritmos.
Pero, ¿qué sucede cuando, poco a poco, depositamos nuestro criterio en este copiloto?, o cuando el «sentido auxiliar» de estas herramientas comienza a volverse ubicuo y dominante. Y, sobre todo, ¿a qué nos referimos al hablar de «mejores seres humanos»? Ya que, aunque la mayoría de nosotros convengamos en que la humanidad reluce en virtudes como la compasión, la solidaridad y la empatía, otros dirán que esta mejora depende de nuestra capacidad de producción y rendimiento.
No cabe duda: la discusión es compleja y requiere la participación de quienes tienen un mayor entendimiento de las tecnologías emergentes; sin embargo, la afirmación de Benanti posee —simultáneamente— el valor de la sencillez y la profundidad. Afirmar que «lo humano debe prevalecer sobre lo tecnológico» es, sobre todo, una declaración de principios: quien lo afirma reconoce un fondo ético que nos pide volver a lo esencial y que, ante el cambio y las novedades, confía en un discernimiento ecuánime y sereno.
Con este fondo humano como antecedente, entendido en función de cualidades que contribuyen a la armonía de los individuos y las comunidades (consciencia, compasión, empatía y fraternidad), deseo compartir una serie de reflexiones acerca de la interseccionalidad de los derechos humanos y la IA, y, por último, hacer un repaso sobre la incorporación de las tecnologías emergentes en la Educación Superior.
Derechos humanos e Inteligencia Artificial: un binomio necesario
En un primer momento, estos dos conceptos (derechos humanos e Inteligencia Artificial) pueden parecer antitéticos. Quizá porque asociamos a los derechos humanos con nuestra capacidad para discernir y elegir libremente, y con nuestro interés por preservar garantías fundamentales en materia de igualdad, justicia y dignidad; en cambio, el término «Inteligencia Artificial» aún nos remite a un imaginario hollywoodense de robots y supercomputadoras que se rebelan en contra de sus creadores.
Lo cierto es que desde hace algunos años estos dos universos se han imbricado de manera insospechada y sorprendente. Al día de hoy, las tecnologías emergentes representan retos y desafíos en áreas tan diversas como las finanzas, la protección de datos, la impartición de justicia y la telemedicina. Sin embargo, el rápido avance de las nuevas tecnologías ha generado un desfase entre la propagación de estas herramientas y la formulación de regulaciones jurídicas y marcos éticos capaces de orientarnos y resguardar nuestros derechos fundamentales.
Lamentablemente, en ocasiones, la ausencia de normas legales o la falta de criterios efectivos para poner límites y establecer consensos prácticos en relación con los efectos disruptivos de estas tecnologías ha derivado en atropellos a la justicia, la privacidad y el derecho a la verdad. En consecuencia, me parece que es justamente ahí, en la brecha que se abre entre los últimos adelantos tecnológicos y la creación —o actualización— de diversas normativas, en donde se requiere la colaboración entre el gobierno, la academia, los desarrolladores y la sociedad civil.
Esta fisura constituye el campo de trabajo y reflexión de diversos empeños coordinados —tanto jurídicos como extrajurídicos—, que desde hace algunos años han comenzado a cobrar relevancia en la conversación pública y académica. Ejemplo de ello son los trabajos de estudiosos como Julian Nida–Rümelin, Nathalie Weidenfeld, Nick Bostrom y Stuart Russell, quienes han insistido en la necesidad de encontrar un equilibrio sociotecnológico que proteja los derechos fundamentales de las y los ciudadanos.
Estas mismas preocupaciones coinciden con las suscritas en el Manifiesto de Viena sobre humanismo digital, dado a conocer en mayo de 2019, en el cual se definen criterios éticos básicos para el desarrollo y la aplicación de las tecnologías digitales. Se trata de un documento enfático respecto de los riesgos de la digitalización, al referirse a la monopolización de la Web, el aumento de las opiniones extremistas, la fragmentación de las comunidades debido a las «cámaras de eco» o «islas de verdad», y la pérdida de la intimidad y la privacidad. Entre otros señalamientos, el Manifiesto hace un llamado a que las disciplinas tecnológicas, como la informática y las ciencias de la computación, colaboren mano a mano con las ciencias sociales y las humanidades. Esto para contrarrestar el aislamiento cognitivo derivado de nuestra cultura de la especialización, en la cual se ha perdido de vista la compleja red de interrelaciones entre distintos saberes.
Ante la rápida incorporación de las tecnologías emergentes, existen tres preguntas que pueden darnos orientación y ayudarnos a clarificar nuestras posturas frente a esos desarrollos. Primero: ¿quién lo construye? Segundo: ¿con qué propósito? Tercero: ¿qué tipo de poder y privilegios trae consigo? A mi juicio, estos cuestionamientos funcionan para establecer un rasero mínimo capaz de esclarecer el potencial —sea benéfico o dañino— de las innovaciones tecnológicas que a diario se introducen en el mercado.
Pienso que, mientras dure esta ola de avances e innovaciones, la evolución de los derechos humanos deberá traducirse en una serie de normativas y de prácticas concretas que inhiban los efectos perjudiciales de las nuevas tecnologías, y que, por el contrario, propicien la creación de soluciones conjuntas a problemas tan acuciantes como la guerra, el fenómeno migratorio, la emergencia climática y la desigualdad socioeconómica. En definitiva, no podemos hablar de progreso técnico si éste no va aparejado de una mayor consciencia y del surgimiento de sociedades más igualitarias e inclusivas, en las que el acceso a la salud, la justicia y la educación no sea más una prerrogativa.
Los desafíos de cara al futuro
En relación con la educación —especialmente con la Educación Superior— quiero retomar algunas reflexiones que, a decir de las voces más cualificadas, sintetizan los principales desafíos y oportunidades que representa la IA en los procesos de aprendizaje, enseñanza y gestión institucional.
Sobre los procesos de aprendizaje y enseñanza destaco dos aspectos que considero insoslayables: en primer lugar, la democratización del acceso a la educación. Hoy no es noticia que debido a las Tecnologías de la Información y la Comunicación (TIC), potenciadas por el desarrollo acelerado de la IA, una cantidad ingente de recursos didácticos —muchos de ellos gratuitos— se han puesto a disposición de quienquiera que tenga acceso a una computadora conectada a internet.
Sin embargo, paradójicamente, este mismo fenómeno de «democratización de la enseñanza» ha agravado la brecha digital al marginar a diversas poblaciones que —por razones geográficas, socioeconómicas o socioculturales— no pueden acceder a estos recursos. Así, la distancia entre quienes carecen de insumos y competencias tecnológicas y quienes viven inmersos entre pantallas y algoritmos, se ha profundizado.
Lo anterior revela que, vista con detenimiento, la llamada «democratización del saber», atribuida a la proliferación de las TIC y de las tecnologías emergentes, no lo es tanto, ya que excluye a quienes históricamente han sido relegados. Constatar este hecho debería atemperar el entusiasmo desbordado de los incondicionales del triunfalismo tecnológico y, más bien, redirigir nuestra atención a ese «fondo humano» al que apela Paolo Benanti, y que se traduce en una pregunta que carece de dobleces: ¿cómo pueden ayudarnos las tecnologías emergentes a ser mejores seres humanos?
A propósito, me parece que el segundo aspecto del que quiero hablar responde con rotundidad a ese cuestionamiento, ya que subraya el papel coparticipativo que incentivan muchas de las nuevas tecnologías, lo cual redunda en una mayor autonomía y capacidad de autorregulación de los estudiantes. Esto representa un viraje considerable respecto del esquema tradicional de transmisión de conocimientos, en el cual el maestro imparte cátedra urbi et orbi, muchas veces sin detenerse a considerar la diversidad de aptitudes de cada estudiante. Por supuesto que, en este caso, no se trata de desplazar la figura del maestro o del tutor, sino de incorporar herramientas tecnológicas que les permitan a los estudiantes encontrar enfoques pedagógicos que faciliten su aprendizaje.
Ejemplo de lo anterior son las plataformas didácticas adaptativas como Knewton, Realzeit o Whatfix, entre muchas otras, diseñadas para ofrecer experiencias de aprendizaje interactivas e individualizadas en las que el estudiante recibe una retroalimentación de su trabajo en tiempo real. Estas aplicaciones son cada día más frecuentes en disciplinas como las matemáticas, la informática, la comprensión de lectura y la economía. Además, muchas de estas plataformas y aplicaciones digitales consideran las variables socioemocionales que implican las dinámicas de aprendizaje y enseñanza, lo cual contribuye a fomentar comunidades y ambientes de conocimiento empáticos e inclusivos.
En síntesis, me parece claro que el aprovechamiento de las tecnologías emergentes y de los desarrollos de IA depende directamente de un abordaje integral, ético y filosófico; es decir, de un criterio amplio, continuo y multidisciplinar, que haga un balance de las luces y sombras de esas tecnologías, y que fomente una mirada crítica y propositiva en quienes recurren a ellas a lo largo de su formación profesional.
«Me parece claro que el aprovecha-miento de las tecnologías emergentes y de los desarrollos de IA depende directamente de un abordaje integral, ético y filosófico».
Finalmente, sobre el tercer punto de esta reflexión —el que concierne a la gestión y administración académica— valdría la pena contrastar el impacto positivo de las tecnologías emergentes en esas áreas, con los riesgos que conlleva el relevo de las tareas que históricamente han realizado los seres humanos, y que de un tiempo acá se delegan en computadoras y programas de IA.
Por un lado, me parece que la posibilidad de automatizar tareas repetitivas —como el diseño de calendarios, la actualización de registros y la organización de documentos, entre otros procesos burocráticos— representa una oportunidad para liberar el tiempo del personal y alentar su participación en proyectos creativos y estratégicos. Esto sin mencionar que la disminución de la carga laboral es siempre una buena noticia, ya que deriva en ambientes de trabajo relajados y en un incremento de la motivación profesional.
Por otra parte, muchas aplicaciones de IA pueden ser útiles al momento de procesar grandes cantidades de datos e identificar patrones de comportamiento. Imaginemos, por ejemplo, la ventaja que esto significa para el análisis de estadísticas o para el diseño de estrategias de rendimiento en los programas deportivos. Al emplearse en función de las variables específicas de cada contexto, la enorme capacidad de cálculo y procesamiento de información de estos desarrollos ha probado ser de gran ayuda en la planeación y en el diseño de programas educativos.
Como señalé más arriba, algunos de estos cambios han derivado en la individualización del aprendizaje y la enseñanza, lo cual, si bien ha beneficiado a muchos estudiantes, no está exento de riesgos. Investigadoras como Timnit Gebru o Joy Boulamwini han señalado en repetidas ocasiones los peligros de los sesgos algorítmicos en la toma de decisiones. Para contrarrestar la desinformación a este respecto, Boulamwini —junto con otros expertos del Instituto Tecnológico de Massachusetts— fundó la Liga de la Justicia Algorítmica con el propósito de alertar sobre cómo los sesgos digitales pueden perpetuar el sexismo, el racismo y la discriminación a personas con discapacidades físicas e intelectuales.
En suma, vemos que el binomio Educación–Inteligencia Artificial se ramifica en múltiples direcciones, y que quizá lo más prudente sea avanzar paso a paso, cuidándonos de caer en utopismos tecnológicos o en pronósticos alarmistas. No cabe duda de que el proceso de incorporación de las tecnologías emergentes —en áreas como la educación, la política y la economía— ha comenzado desde hace tiempo. Por ello, lo mejor que podemos hacer quienes nos dedicamos a la educación es, primero, comprender estos desarrollos y, segundo, decidir cómo incorporarlos en beneficio de nuestras respectivas comunidades.
Apéndice
Hace unos días escuché una charla del doctor César Coll, catedrático en Psicología Evolutiva y de Educación de la Universidad de Barcelona. A la pregunta sobre cuáles son los principales retos para la educación en el siglo XXI, Coll responde con una serie de ideas que me interesa compartir a manera de complemento.
Coll es enfático sobre la necesidad de resituar la educación en el contexto contemporáneo. Entre otras cosas, esto nos exige romper las barreras entre el aprendizaje que se promueve a intramuros de escuelas y universidades y aquél que se fomenta en otros espacios de actividad. A su vez, sostiene Coll, los educadores debemos ir más allá del modelo de escolarización —aquél que concibe el aprendizaje como una carrera de grados y escaños de especialización— y pasar a otro modelo que tenga en cuenta la distribución y diseminación horizontal del conocimiento y el aprendizaje.
En este nuevo modelo, que se ha impuesto orgánicamente en la esfera social, las escuelas fungen como vías de acceso hacia una red de contextos plurales y actividades intercomunitarias. De esta manera, la universidad ya no es esa entidad ensimismada que se atribuye la autoridad y la exclusividad del conocimiento, sino que, más bien, funciona como un nodo en donde convergen una amplia variedad de perspectivas y cosmovisiones.
Pienso que las reflexiones del doctor Coll nos dan unas coordenadas para imaginar soluciones y proyectos acordes a las demandas específicas de cada comunidad. Ya que, como él apunta, no se trata únicamente de pensar y reflexionar en abstracto sobre las diversas problemáticas que atraviesan a las sociedades contemporáneas, sino de promover e instalar prácticas de comportamiento capaces de responder a estos nuevos desafíos.
Para concluir, vuelvo a Paolo Benanti y a su insistencia en que lo humano prevalezca sobre lo tecnológico. Si bien «lo tecnológico» también es humano, creo que la intención de Benanti es enfatizar en que la evolución y el progreso no dependen de este o aquel avance o aparato, sino de nuestra disposición a seguir creciendo en aquello que nos hace verdaderamente humanos. Y que —más que las competencias digitales, los códigos y los algoritmos— lo decisivo es seguir cultivando la compasión, la humildad y la caridad. Crecer en todas esas virtudes en las que el hombre se abre al asombro y a la comunión, y que constituyen el fondo y la base de cualquier inteligencia, sea humana o artificial.
Para saber más:
Aprendamos Juntos 2030. (2024, 12 de febrero). ¿Cuáles son los retos de la educación del siglo XXI? César Coll, catedrático en Psicología Evolutiva [Video]. YouTube. https://rb.gy/1l8m5s
Arriaga, L. (2023, 12 de junio). Universidad e inteligencia artificial: un desafío emergente para las humanidades. Nexos. https://rb.gy/w9ajwr
Brockman, J. (Ed.). (2019). Possible Minds: Twenty–Five Ways of Looking at AI. Penguin Press.
Vera, F. (2023). Integración de la Inteligencia Artificial en la Educación superior: Desafíos y Oportunidades. Revista Electrónica Transformar, 4(1), 17–34. https://rb.gy/xdm0vm
Relacionado
