En un campo a las afueras de Kiev, los fundadores de Vyriy, una empresa ucraniana de drones, trabajaban recientemente en un arma del futuro.
Para demostrarlo, Oleksii Babenko, de 25 años, director ejecutivo de Vyriy, se subió a su motocicleta y recorrió un camino de tierra. Detrás de él, le seguía un dron, mientras un colega seguía los movimientos desde un ordenador del tamaño de un maletín.
Hasta hace poco, un humano habría pilotado el cuadricóptero. Ahora ya no. En su lugar, una vez que el dron se fijó en su objetivo, el Sr. Babenko, voló solo, guiado por un software que utilizaba la cámara de la máquina para seguirlo.
El gruñido del motor de la motocicleta no era rival para el silencioso zángano mientras acechaba al Sr. Babenko. “Empuja, empuja más. Pedalea a fondo, tío”, le gritaron sus colegas por un walkie-talkie mientras el dron se abalanzaba sobre él. “¡Estás jodido, jodido!”.
Si el dron hubiera estado armado con explosivos y sus colegas no hubieran desactivado el seguimiento autónomo, Babenko habría muerto.
Vyriy es sólo una de las muchas empresas ucranianas que trabajan en un gran salto adelante en la militarización de la tecnología de consumo, impulsada por la guerra con Rusia. La presión para superar al enemigo, junto con los enormes flujos de inversión, donaciones y contratos gubernamentales, ha convertido a Ucrania en un Silicon Valley de drones autónomos y otros armamentos.
Lo que las empresas están creando es una tecnología que hace que el juicio humano sobre los objetivos y los disparos sea cada vez más tangencial. La disponibilidad generalizada de dispositivos listos para usar, programas informáticos fáciles de diseñar, potentes algoritmos de automatización y microchips especializados de inteligencia artificial ha impulsado una mortífera carrera de innovación hacia territorios inexplorados, alimentando una posible nueva era de robots asesinos.
Las versiones más avanzadas de la tecnología que permite a drones y otras máquinas actuar de forma autónoma han sido posibles gracias al aprendizaje profundo, una forma de inteligencia artificial que utiliza grandes cantidades de datos para identificar patrones y tomar decisiones. El aprendizaje profundo ha ayudado a generar grandes modelos lingüísticos populares, como el GPT-4 de OpenAI, pero también ayuda a que los modelos interpreten y respondan en tiempo real a las grabaciones de vídeo y cámaras. Eso significa que el software que una vez ayudó a un dron a seguir a un snowboarder por una montaña ahora puede convertirse en una herramienta mortal.
En más de una docena de entrevistas con empresarios, ingenieros y unidades militares ucranianos, surgió la imagen de un futuro próximo en el que enjambres de drones autoguiados pueden coordinar ataques y ametralladoras con visión por ordenador pueden derribar soldados automáticamente. También se están desarrollando creaciones más extravagantes, como un helicóptero no tripulado que planea y empuña ametralladoras.
Estas armas son más toscas que las de los éxitos de taquilla de ciencia ficción, como “Terminator” y su asesino de metal líquido T-1000, pero son un paso hacia ese futuro. Aunque estas armas no son tan avanzadas como los costosos sistemas militares de Estados Unidos, China y Rusia, lo que las hace significativas es su bajo coste (miles de dólares o menos) y su fácil disponibilidad.
A excepción de las municiones, muchas de estas armas se construyen con códigos encontrados en Internet y componentes como ordenadores de aficionados, como Raspberry Pi, que se pueden comprar en Best Buy y en una ferretería. Algunos funcionarios estadounidenses dijeron que les preocupaba que estas habilidades pudieran utilizarse pronto para llevar a cabo atentados terroristas.
Para Ucrania, estas tecnologías podrían suponer una ventaja frente a Rusia, que también está desarrollando artilugios asesinos autónomos, o simplemente ayudarle a mantener el ritmo. Los sistemas ponen en juego un debate internacional sobre las ramificaciones éticas y jurídicas de la inteligencia artificial en el campo de batalla. Grupos de derechos humanos y funcionarios de las Naciones Unidas quieren limitar el uso de armas autónomas por temor a que puedan desencadenar una nueva carrera armamentística mundial que podría descontrolarse.
En Ucrania, estas preocupaciones son secundarias frente a la lucha contra un invasor.
“Necesitamos la máxima automatización”, afirma Mykhailo Fedorov, ministro ucraniano de Transformación Digital, que ha liderado los esfuerzos del país por utilizar start-ups tecnológicas para ampliar las capacidades de combate avanzado. “Estas tecnologías son fundamentales para nuestra victoria”.
Los drones autónomos como el Vyriy ya se han utilizado en combate para atacar objetivos rusos, según funcionarios ucranianos y vídeos verificados por The New York Times. Fedorov afirmó que el Gobierno está trabajando para financiar empresas de drones y ayudarles a aumentar rápidamente la producción.
Se plantean grandes interrogantes sobre el nivel de automatización aceptable. Por ahora, los aviones no tripulados requieren un piloto para fijar un objetivo, manteniendo a un “humano en el bucle”, una frase a menudo invocada por los responsables políticos y los especialistas en ética de la inteligencia artificial. Los soldados ucranianos han expresado su preocupación por la posibilidad de que el mal funcionamiento de los drones autónomos alcance a sus propias fuerzas. En el futuro, puede que no existan restricciones para este tipo de armas.
Ucrania ha “dejado brutalmente clara la lógica de por qué las armas autónomas tienen ventajas”, afirmó Stuart Russell, científico especializado en Inteligencia Artificial y profesor de la Universidad de California en Berkeley, que ha advertido sobre los peligros de la Inteligencia Artificial armamentística. “Habrá armas de destrucción masiva baratas, escalables y fácilmente disponibles en los mercados de armas de todo el mundo”.
Un Silicon Valley de drones
En un destartalado taller de un edificio de apartamentos del este de Ucrania, Dev, un soldado de 28 años de la 92ª Brigada de Asalto, ha contribuido a impulsar innovaciones que han convertido drones baratos en armas. Primero ató bombas a los drones de carreras, luego añadió baterías más grandes para que volaran más lejos y recientemente incorporó visión nocturna para que las máquinas pudieran cazar en la oscuridad.
En mayo, fue uno de los primeros en utilizar drones autónomos, incluidos los de Vyriy. Aunque algunos necesitan mejoras, dijo Dev, cree que serán el próximo gran salto tecnológico en llegar al frente.
Los drones autónomos “ya están muy solicitados”, afirmó. Los aparatos han sido especialmente útiles contra las interferencias que pueden romper los enlaces de comunicación entre el dron y el piloto. Si el dron vuela solo, el piloto puede fijar un objetivo y dejar que el aparato haga el resto.
Por toda Ucrania han surgido fábricas y laboratorios improvisados para construir máquinas teledirigidas de todos los tamaños, desde aviones de largo alcance y lanchas de ataque hasta drones kamikazes baratos, abreviados como F.P.V.s, por first-person view (visión en primera persona), porque son guiados por un piloto que lleva unas gafas de realidad virtual que ofrecen una visión desde el dron. Muchos son precursores de máquinas que acabarán actuando por sí solas.
Los esfuerzos por automatizar los vuelos de los F.P.V. comenzaron el año pasado, pero se vieron ralentizados por contratiempos en la construcción del software de control de vuelo, según el Sr. Fedorov, quien afirmó que esos problemas ya se habían resuelto. El siguiente paso era ampliar la tecnología con más gasto público, dijo, y añadió que unas 10 empresas ya estaban fabricando drones autónomos.
“Ya tenemos sistemas que pueden fabricarse en serie y que se están probando a fondo en el frente, lo que significa que ya se utilizan activamente”, afirmó Fedorov.
Algunas empresas, como Vyriy, utilizan algoritmos básicos de visión por ordenador, que analizan e interpretan imágenes y ayudan a un ordenador a tomar decisiones. Otras empresas son más sofisticadas y utilizan el aprendizaje profundo para crear software capaz de identificar y atacar objetivos. Muchas de las empresas afirmaron haber extraído datos y vídeos de simuladores de vuelo y vuelos de drones en primera línea.
Un fabricante ucraniano de drones, Saker, construyó un sistema de puntería autónomo con procesos de inteligencia artificial diseñado originalmente para seleccionar y clasificar fruta. Durante el invierno, la empresa empezó a enviar su tecnología al frente, probando distintos sistemas con pilotos de drones. La demanda se disparó.
En mayo, Saker ya producía en serie ordenadores de placa de circuito única cargados con su software, que podían acoplarse fácilmente a los drones de la F.P.V. para que las máquinas pudieran fijarse automáticamente en un objetivo, explicó el director ejecutivo de la empresa, que pidió que sólo se le mencionara por su nombre de pila, Viktor, por temor a represalias por parte de Rusia.
El avión no tripulado se estrella contra su objetivo “y ya está”, explicó. “Resiste al viento. Resiste las interferencias. Sólo tienes que ser preciso con lo que vas a golpear”.
En la actualidad, Saker fabrica 1.000 placas de circuitos al mes y tiene previsto ampliar su producción a 9.000 al mes a finales de verano. Varias unidades militares ucranianas ya han alcanzado objetivos rusos en el frente con la tecnología de Saker, según la empresa y vídeos confirmados por The Times.
En un clip de la tecnología de Saker compartido en las redes sociales, un dron sobrevuela un campo marcado por los bombardeos. Un recuadro en el centro del visor del piloto se acerca de repente a un tanque, indicando un bloqueo. El dron ataca por su cuenta, estallando en el costado del blindado.
Saker ha ido más lejos en las últimas semanas, utilizando con éxito un avión no tripulado de reconocimiento que identificaba objetivos con I.A. y luego enviaba aviones no tripulados kamikaze autónomos para la matanza, dijo Viktor. En un caso, el sistema alcanzó un objetivo a 25 millas de distancia.
“Cuando lleguemos a un punto en el que no dispongamos de personal suficiente, la única solución será sustituirlo por robots”, afirmó Rostyslav, cofundador de Saker, que también pidió que sólo se le mencionara por su nombre de pila.
A Miniaturized War
En una calurosa tarde del mes pasado en la región del este de Ucrania conocida como el Donbass, Yurii Klontsak, un reservista de 23 años, entrenó a cuatro soldados en el uso de la última arma futurista: una torreta con puntería autónoma que funciona con un mando de PlayStation y una tableta.
Hablando por encima de los estampidos de los bombardeos cercanos, Klontsak explicó cómo el arma, llamada Wolly por su parecido con el robot de Pixar WALL-E, puede apuntar automáticamente a un objetivo a una distancia de hasta 1.000 metros y saltar entre posiciones preprogramadas para cubrir rápidamente una amplia zona. La empresa que fabrica el arma, DevDroid, también estaba desarrollando un autofoco para rastrear y acertar objetivos en movimiento.
“Cuando vi el arma por primera vez, me quedé fascinado”, afirma Klontsak. “Comprendí que era la única manera, si no de ganar esta guerra, al menos de mantener nuestras posiciones”.
El cañón es uno de los muchos que han aparecido en el frente utilizando programas informáticos entrenados por la inteligencia artificial para rastrear y disparar automáticamente a los objetivos. Al igual que en la identificación de objetos de las cámaras de vigilancia, el software rodea en una pantalla a las personas y otros posibles objetivos con una caja digital. Al tirador sólo le queda apretar el gatillo a distancia con el mando de un videojuego.
Por ahora, los fabricantes de armas dicen que no permiten que la ametralladora dispare sin que un humano pulse un botón. Pero también dijeron que sería fácil fabricar una que pudiera hacerlo.
Muchas de las innovaciones ucranianas se están desarrollando para contrarrestar el avance del armamento ruso. Los soldados ucranianos que manejan ametralladoras son un objetivo prioritario de los ataques de drones rusos. Con las armas robóticas, ningún humano muere cuando una ametralladora es alcanzada. Nuevos algoritmos, aún en fase de desarrollo, podrían ayudar a las ametralladoras a derribar drones rusos.
Este tipo de tecnologías, y la capacidad de construirlas y probarlas rápidamente en el frente, han atraído la atención y la inversión extranjera. El año pasado, Eric Schmidt, antiguo director ejecutivo de Google, y otros inversores crearon una empresa llamada D3 para invertir en tecnologías emergentes para el campo de batalla en Ucrania. Otras empresas de defensa, como Helsing, también se están asociando con empresas ucranianas.
Las empresas ucranianas avanzan más deprisa que sus competidoras en el extranjero, afirmó Eveline Buchatskiy, socia directora de D3, y añadió que la firma pide a las empresas en las que invierte fuera de Ucrania que visiten el país para que puedan acelerar su desarrollo.
“Aquí los incentivos son distintos”, afirma.
A menudo, las exigencias del campo de batalla unen a ingenieros y soldados. Oleksandr Yabchanka, comandante de Da Vinci Wolves, un batallón conocido por su innovación en armamento, recordó cómo la necesidad de defender la “carretera de la vida” -una ruta utilizada para abastecer a las tropas que luchaban contra los rusos a lo largo de la línea del frente oriental en Bajmut- había estimulado la invención. Imaginando una solución, publicó en Facebook una petición abierta de una ametralladora computerizada por control remoto.
En unos meses, Yabchanka obtuvo un prototipo de una empresa llamada Roboneers. La ametralladora fue útil para su unidad casi al instante.
“Podíamos sentarnos en la trinchera a tomar café y fumar cigarrillos y disparar a los rusos”, dijo.
La aportación del Sr. Yabchanka ayudó más tarde a Roboneers a desarrollar un nuevo tipo de arma. La empresa montó la torreta de la ametralladora sobre un dron terrestre rodante para ayudar a las tropas a realizar asaltos o cambiar rápidamente de posición. El director ejecutivo de Roboneers, Anton Skrypnyk, afirmó que esta aplicación ha generado una mayor necesidad de autoapuntado basado en la inteligencia artificial.
Asociaciones similares han impulsado otros avances. En un campo de tiro de drones en mayo, Swarmer, otra empresa local, mantuvo una videollamada con una unidad militar para explicar a los soldados las actualizaciones de su software, que permite a los drones realizar ataques en enjambre sin piloto.
El software de Swarmer, creada el año pasado por un antiguo ingeniero de Amazon, Serhii Kupriienko, se basa en un modelo de inteligencia artificial entrenado con grandes cantidades de datos sobre misiones de drones en primera línea. Permite a un solo técnico manejar hasta siete drones en misiones de bombardeo y reconocimiento.
Recientemente, Swarmer añadió capacidades que pueden guiar drones de ataque kamikaze hasta 35 millas. La esperanza es que el software, en pruebas desde enero, reduzca el número de personas necesarias para operar las fuerzas aéreas miniaturizadas que dominan el frente.
Durante una demostración, un ingeniero de Swarmer observaba en un ordenador un mapa mientras seis drones autónomos zumbaban sobre sus cabezas. Uno tras otro, los drones bombarderos de gran tamaño sobrevolaron un posible objetivo y lanzaron botellas de agua en lugar de bombas.
Según Kupriienko, algunos pilotos de aviones no tripulados temen que esta tecnología les sustituya por completo.
“Dicen: ‘Oh, vuela sin nosotros. Nos quitarán los mandos a distancia y nos pondrán un arma en la mano'”, dijo, refiriéndose a la creencia de que es más seguro pilotar un dron que ocupar una trinchera en el frente.
El auge de los robots de sacrificio
En 2017, Russell, el investigador de inteligencia artificial de Berkeley, publicó una película en línea, “Slaughterbots”, en la que advertía de los peligros de las armas autónomas. En la película, manadas itinerantes de drones armados con inteligencia artificial de bajo coste utilizan tecnología de reconocimiento facial para cazar y matar objetivos.
Lo que está ocurriendo en Ucrania nos acerca a ese futuro distópico, dijo Russell. Ya le atormentan, dijo, los vídeos ucranianos de soldados que son perseguidos por drones armados pilotados por humanos. A menudo llega un momento en que los soldados dejan de intentar escapar o esconderse porque se dan cuenta de que no pueden huir del dron.
“No tienen adónde ir, así que se quedan esperando a morir”, explica Russell.
No es el único que teme que Ucrania sea un punto de inflexión. En Viena, los miembros de un grupo de expertos de la ONU también manifestaron su preocupación por las ramificaciones de las nuevas técnicas que se están desarrollando en Ucrania.
Las autoridades llevan más de una década debatiendo normas sobre el uso de armas autónomas, pero son pocos los que esperan que un acuerdo internacional establezca nuevas normas, sobre todo en un momento en que Estados Unidos, China, Israel, Rusia y otros países se apresuran a desarrollar armas aún más avanzadas. En un programa estadounidense anunciado en agosto, conocido como la iniciativa Replicator, el Pentágono dijo que planeaba producir en masa miles de drones autónomos.
“La geopolítica lo hace imposible”, dijo Alexander Kmentt, principal negociador austriaco sobre armas autónomas en la ONU. “Estas armas se utilizarán, y se utilizarán en el arsenal militar de casi todo el mundo”.
Nadie espera que los países acepten una prohibición total de este tipo de armas, dijo, “pero deben regularse de forma que no acabemos con un escenario absolutamente de pesadilla”.
Grupos como el Comité Internacional de la Cruz Roja han abogado por normas jurídicamente vinculantes que prohíban ciertos tipos de armas autónomas, restrinjan el uso de otras y exijan un nivel de control humano sobre las decisiones de uso de la fuerza.
Para muchos en Ucrania, el debate es académico. Están en inferioridad de condiciones.
“Primero tenemos que ganar”, dijo el Sr. Fedorov, ministro de Transformación Digital. “Para ello, haremos todo lo posible por introducir la automatización al máximo para salvar la vida de nuestros soldados”.
