El credo de la superinteligencia y la fiabilidad del software, por Ramón López de Mántaras
El evento de la Singularidad se supone que es aquel punto en el tiempo en que una Superinteligencia Artificial superará la inteligencia humana. Ray Kurzweil, el principal apóstol de este credo afirma que la llamada inteligencia artificial general (paso previo para alcanzar la Superinteligencia Artificial) se alcanzará hacia el año 2030 y la superinteligencia artificial, y por consiguiente la Singularidad, se alcanzará hacia el 2045. Estas ideas fueron impulsadas, en la década de los sesenta, por las especulaciones del matemático I. J. Good sobre el potencial de una explosión de inteligencia, vino a decir: “Definamos una máquina superinteligente como una máquina que pueda superar con creces todas las actividades intelectuales de cualquier hombre, por muy inteligente que sea. Dado que el diseño de máquinas es una actividad humana, una máquina superinteligente podría diseñar máquinas aún mejores; entonces, indudablemente, habría una ‘explosión de inteligencia’, y la inteligencia del hombre quedaría muy ampliamente superada”.
El supuesto más fundamental detrás de la Singularidad es la idea de “progreso exponencial” en varias áreas de la ciencia y la tecnología, particularmente en la informática y en la neurociencia. En el caso de la informática podemos considerar que, en lo referente al número de transistores que se pueden integrar en los chips, efectivamente ha habido un progreso exponencial que se corresponde con la llamada ley de Moore (aunque actualmente hay razones para creer que este crecimiento exponencial está llegando prácticamente a su límite). Pero, desafortunadamente para los creyentes de la Singularidad, los progresos en informática, y en particular en IA, no dependen únicamente de los avances en el hardware de los ordenadores. El software es, de hecho, más fundamental que el hardware en el desarrollo de la inteligencia artificial y está muy claro que no hay, ni ha habido, progresos exponenciales en el desarrollo de software.
Las tecnológicas deben mejorar el desarrollo de software y mejorar su fiabilidad
El pasado, 19 de julio de 2024, mientras escribía este artículo, hubo una caída a escala mundial del sistema operativo Windows, debido a un fallo en la actualización de una plataforma antivirus llamada CrowdStrike, que lo protege frente a ciberataques. Para ello utiliza IA, concretamente un sistema de aprendizaje automático que ha sido entrenado para detectar actividades anómalas de los usuarios, identificando desviaciones de los patrones de comportamiento estándar que puedan indicar posibles ciberataques.
Si un solo error en un software, basado, además, en IA, puede afectar globalmente y críticamente a hospitales, aerolíneas, bancos, medios de comunicación y un largo etcétera, ¿no es ridículo pensar que estamos cerca de esa inteligencia general artificial que nos conducirá a continuación a la Superinteligencia Artificial y a la Singularidad?
Un error en el código del antivirus CrowdStrike tumbó los sistemas de aerolíneas y hospitales (Nueva Delhi) EFE/EPA/RAJAT GUPTA
Carecemos de las técnicas y métodos adecuados para desarrollar de forma fiable sistemas software de alta complejidad. Las grandes tecnológicas deben mejorar drásticamente el desarrollo de software, invirtiendo en mejorar su fiabilidad y robustez en lugar de lanzar al mercado sistemas complejos de software, como los de la IA generativa, sin verificar las consecuencias negativas, tanto técnicas como éticas, de su mal funcionamiento. Lanzar tecnología innovadora sin verificaciones robustas de su funcionamiento puede ser un buen negocio para algunos, pero nunca será progreso para todos.