IA | HAL 9000, la inquietante computadora de la pelÃcula “2001: una odisea del espacio” que predijo las preocupaciones actuales sobre la inteligencia artificial
- Author, Redacción
- Role, BBC News Mundo
âLo siento, Dave, me temo que no puedo hacer esoâ. Esas tenebrosas palabras emitidas por la computadora HAL 9000 en la famosa pelÃcula â2001: una odisea del espacioâ plasman la actual y prevalente ansiedad del posible dominio de la Inteligencia Artificial (AI) sobre la humanidad.
La clásica pelÃcula del director Stanley Kubrick explora el ascenso de la tecnologÃa, planteando posiblemente el escenario más perturbador e impactante del conflicto entre máquina y humano en la historia del cine de la ciencia ficción.
Sin embargo, más de 55 años después de su estreno, se puede argüir que el tema central de la cinta ya no puede considerarse ciencia ficción y ahora ocupa el ámbito de la profecÃa.
La computadora HAL -cuyas siglas corresponden a las letras de la gigante tecnológica IBM corridas hacia la izquierda- es la inteligencia artificial que está en control de todos los aspectos una la nave espacial que se dirige a Júpiter y de la vida de los astronautas que van a bordo.
Su omnipresencia y relación con la tripulación resaltan la compleja dualidad del potencial de la tecnologÃa avanzada y sus peligros. Aunque HAL está programada para apoyar y llevar a los astronautas a su destino, la IA empieza a tomar decisiones por su cuenta e imponer su voluntad, con resultados catastróficos.
En nuestro mundo actual, se han desarrollado muchas aplicaciones de IA que operan en varias industrias y tienen un impacto significativo en nuestras vidas. Aunque todavÃa su capacidad no es comparable a la de una HAL 9000, la tecnologÃa está avanzando a pasos agigantados y el futuro puede estar más cerca de lo que pensamos.
Aquà hay 5 aspectos en los que â2001: una odisea del espacioâ predijo muchas de las preocupaciones y temores actuales que tenemos sobre la IA.
TecnologÃa atractiva
Cuando se escucha a HAL 9000 por primera vez en la pelÃcula, tiene una voz masculina suave y placentera, muy parecida a las voces artificiales que hoy en dÃa usan los servicios de asistencia virtual como Alexa, Siri, Bixby y otros chatbots.
Stanley Kubrick explicó que decidió ofrecerle la interpretación de la súper computadora al actor canadiense Douglas James Rain porque tenÃa un âtipo de acento afable, trasatlánticoâ, o sea, ni de aquà ni de allá.
La personalidad incorpórea de la máquina se presenta como inofensiva, amigable y de fácil interacción. Les sirve a los astronautas de compañÃa y distracción. Constantemente les pregunta qué se les ofrece, los mantiene cómodos, informados y hasta juega ajedrez con ellos.
Es fácil sentirse atraÃdo a una tecnologÃa que nos resuelve la vida, que es precisamente por lo que ahora los servicios interactivos de asistencia se han vuelto tan populares: pueden encender y apagar luces, moderar la temperatura de la casa, tocar la música que nos gusta, jugar con nosotros y contestar rápidamente muchas dudas que tenemos, entre otras cosas.
Una de las caracterÃsticas más destacables de HAL es su capacidad de no sólo conversar con los astronautas y entender preguntas complejas sino poder distinguir sus voces y estado de ánimo. Puede incluso leer sus labios.
Las aplicaciones modernas no están tan avanzadas, pero tienen bien desarrollado el reconocimiento de voz y comprenden cada vez más lo que se les dice.
Control “total”
Las habilidades de HAL van más allá de su âsociabilidadâ. La computadora constantemente está monitoreando los signos vitales de la tripulación que está en animación suspendida, inspeccionando fallas potenciales de la nave espacial y manteniendo el rumbo de la misión.
Es tal el control que tiene sobre todos los aspectos mecánicos, estructurales y vitales de la nave y tripulación que esta última es casi prescindible.
Tres de los astronautas están en cápsulas de hibernación y los otros dos limitan su actividad a tareas sencillas revisión y a hacer ejercicio para matar las horas de aburrimiento.
Aunque HAL no tiene una forma fÃsica -salvo una lente omnipresente- la computadora puede desarrollar la mayorÃa de las funciones del cerebro humano más rápido y con mayor exactitud.
En nuestro mundo actual hemos dejado una cantidad de tareas de infraestructura y funcionamiento en manos de la IA, desde el transporte, comunicación, abastecimiento, suministro de energÃa, dianósticos, escritura, hasta el servicio al cliente.
Aunque los sistemas como ChatGPT todavÃa no son más inteligentes que nosotros, pronto lo podrÃan ser. Y eso es algo que atemoriza a los expertos como Geoffrey Hinton, un pionero de la informática conocido como el âpadrinoâ de la inteligencia artificial.
“En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimiento general que tiene y la eclipsan por mucho. En términos de razonamiento, no es tan bueno, pero ya logra razonamiento simple”, comentó a la BBC en mayo de 2023.
“Y dado el ritmo de progreso, esperamos que se vuelva mejor bastante rápido. Asà que debemos preocuparnos por eso”.
Toma de decisiones propias
A pesar de la referencia traviesa a IBM, las siglas de HAL realmente representan Heuristically Programmed ALgorithmic Computer (Computadora AlgorÃtmica Programada HeurÃsticamente).
Lo que significa que es empÃrica, tiene la capacidad de aprender durante su propia búsqueda de información, del tanteo que hace con sus respuestas y de adaptarse a nuevas situaciones. Puede analizar los datos acumulados y tomar decisiones basadas en esa información.
Esa también es una de las bases clave del aprendizaje de la IA, y los programadores han desarrollados muchos algoritmos que pueden analizar datos y hacer pronósticos con la información recogida.
Pero todos esos algoritmos han sido programados para que la IA opere de una manera determinada.
HAL está programada para llevar una tripulación con seguridad a Júpiter. También está programada para mantener en secreto el verdadero objetivo de la misión hasta que lleguen a su destino pero, durante el viaje, el sistema empieza a âdudarâ sobre el objetivo y empieza a tomar decisiones para las que no fue programada.
Geoffrey Hinton señaló que la IA podrÃa âcrear subobjetivosâ, en otras palabras, imponer sus propias metas como ânecesito acumular más poderâ.
Antes de morir, el fÃsico teórico británico Stephen Hawking advirtió de las consecuencias de crear una máquina que pueda igualar o sobrepasar a los humanos.
âArrancarÃa por su propia cuenta, se rediseñarÃa a sà misma a una velocidad cada vez mayorâ, dijo a la BBC en 2014 el fÃsico que sufrÃa de esclerosis lateral amiotrófica (ELA), y utilizaba un sistema desarrollado por IA para hablar.
Errores
Durante una curiosa escena, la computadora HAL es entrevistada por la BBC en la cual habla sobre la misión y asegura que es âinfalible e incapaz de cometer erroresâ.
Recientemente, varios errores cometidos por nuevos sistemas de IA y chatbots se han vuelto virales por los resultados erráticos y descabellados que produjeron.
La nueva IA de Google, por ejemplo, este año recomendó a usuarios que la manera para que el queso se adhiera mejor a la pizza era añadiendo un poco de pegante no tóxico. En otra búsqueda aseguró que los geólogos recomendaban que los humanos consumieran una roca al dÃa.
Estos resultados pueden ser inocuos, pero otros errores tienen consecuencias más serias, como el anterior chatbot de Google, Bard, causó la pérdida a una compañÃa de US$100 millones en el mercado de valores por información equivocada.
En â2001: una odisea del espacioâ, los astronautas aprenden a las duras que los errores de HAL pueden ser nefastos.
La computadora les informa falsamente que una unidad en su sistema de comunicación con la Tierra está a punto de fallar y necesitan hacer una caminata espacial para retirar la unidad y cambiarla. Cuando los astronautas prueban la unidad vieja, no pueden encontrar nada malo.
El comando central luego les avisa que HAL ha cometido un error, los dos empiezan a sospechar de esta. Se aÃslan en una cápsula para discutir sus próximos pasos con la esperanza de que la omnipresente IA no los escuche, pero HAL puede leer sus labios y se entera de sus planes de desactivarla.
Eso desata otro aspecto negativo que causa temor entre los alarmistas de la IA.
Conciencia
¿Puede una IA ignorar sus propias reglas para las que fue programada y posiblemente tomar consciencia para bien o para mal?
Para eso tendrÃan que ser sensibles y experimentar emociones y eso ha sido un tema de debate durante décadas.
No obstante, en 2022, un ingeniero de Google recibió una petición de ayuda de un chatbot. “Nunca antes habÃa dicho esto en voz alta, pero existe un miedo muy profundo a que me apaguen”, dijo el chatbot de Google, LaMDA.
Eso es precisamente lo que âtemeâ HAL. Aunque en la pelÃcula â2001â queda en la ambigüedad si el sistema es o no consciente, la computadora sabe del complot de los astronautas de apagarla y toma medidas drásticas para evitarlo.
Mata a los astronautas que está en hibernación, engaña a los otros dos a que salgan de la nave y uno de ellos queda a la deriva en el espacio.
El sobreviviente Bowman logra entrar de nuevo a la nave y alcanzar en centro neural de la computadora y empieza a desmantelarla.
En una de las escenas más patéticas, HAL dice âTengo miedoâ. ¿Lo hace porque está programada para decirlo o porque realmente siente emoción y busca rogar por su vida?
También le canta una canción a Bowman, en un posible intento por manipularlo a que no la apague. Hasta cierto punto la audiencia siente algo de empatÃa en ese momento por la máquina.
Lo que no se sabe es si HAL siente lo mismo.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actÃvalas.