A María González*, de 67 años, hace unas semanas le apareció en Facebook un video de una aparente emisión de Noticias Caracol en la que el reconocido presentador Jorge Alfredo Vargas daba una noticia que prometía cambiar su vida económica y la de millones de colombianos: “el Senado debatió un proyecto de ley que obligaría al banco central a abrir el acceso a un programa de inversiones creado por Еlon Мusk, dueño de Twitter (hoy X)”, afirma el presentador en el video.
La publicación muestra a congresistas y a importantes empresarios, como el banquero Luis Carlos Sarmiento, y dice que, con ese proyecto de inversión, cualquier persona podrá ser millonaria como ellos. A simple vista todo lucía muy real, igual a las emisiones que Noticias Caracol transmite por televisión, así que González* confió, dio clic en un botón que acompañaba el video y llenó un formulario que le pidió sus datos básicos.
Como ella, en los últimos cuatro meses, millones de colombianos han visto en Facebook videos que promocionan supuestos proyectos de inversión que prometen ganancias exorbitantes en pocos días. Algunos ofrecen hasta $24 millones de ganancias en seis meses o la oportunidad de comprar una casa. Pero todo esto es falso: ni Noticias Caracol emitió esa noticia ni el supuesto proyecto es real. Todo fue creado con inteligencia artificial para estafar masivamente.
Tras una revisión de un mes, La Silla Vacía identificó 30 páginas de Facebook que, de forma coordinada, desde marzo de este año, le han pagado a esa red social al menos 2.900 dólares, es decir 11 millones de pesos, para mover videos falsos. Estos usan la imagen del noticiero más visto del país y de grandes empresarios y políticos, como el presidente Gustavo Petro, para que los usuarios crean la mentira y caigan en la estafa.
En paralelo, también revisamos otras 13 páginas de Facebook que, con el mismo modus operandi, han promocionado falsos remedios milagrosos contra enfermedades como la diabetes, una afección que no tiene cura. Este es un cóctel que juega a favor de los estafadores, quienes se aprovechan del anonimato que ofrecen redes como Facebook, la desinformación y la sofisticación que ha alcanzado la inteligencia artificial.
De millonario a estafado en un clic
Al poco tiempo de enviar sus datos, a María González* la llamó un número desconocido. El hombre que la contactó tenía acento mexicano. González empezó a sospechar del supuesto proyecto de inversión pues a inicios de este año había caído en una estafa: vio una supuesta oferta de pasajes a San Andrés, no averiguó antes y consignó un millón de pesos. La engañaron.
En la llamada le dijeron que le abrirían una cuenta bancaria en la que debía depositar un millón de pesos, y que este era el dinero que se multiplicaría. Ante sus sospechas González decidió colgar. La siguieron llamando insistentemente, pero no contestó y bloqueó los números. Afirma haber recibido alrededor de 20 llamadas de distintos números desde el 1 de abril hasta el 24 de mayo.
Estos números tenían prefijos internacionales: +32 (Bélgica), +350 (Gibraltar), +60 (Malasia), +1 (Canadá o Estados Unidos), +31 (Países Bajos), +254 (Kenia) y +52 (México).
La Silla identificó que en Colombia comenzaron a circular los primeros videos falsos que promocionaban ese programa de inversiones, supuestamente creado por Еlon Мusk, aproximadamente el 25 de marzo.
Una de esa grabaciones, que a la fecha acumula más de 200 mil vistas, también muestra a Leonardo Villar, gerente general del Banco de la República, e Iván Name, presidente del Senado. La voz de ambos fue clonada con inteligencia artificial y tanto el Banco como Name, desmintieron el video (acá y aquí).
A pesar de eso, ese video, que fue publicado por una página llamada “Tú eres el elegido”, siguió difundiéndose y entre el 27 y 28 de marzo otras tres cuentas publicaron la misma grabación.
La Silla encontró otras 26 páginas que han publicado videos similares, donde solo cambian el rostro de los políticos o empresarios a quienes clonan su voz, y transmiten el mismo mensaje: piden a las personas pagos de entre 900 mil y un millón de pesos para ser parte del supuesto proyecto de inversión que los hará millonarios.
En total, fueron identificados 34 videos falsos que han circulado en Facebook desde estas cuentas entre el 25 de marzo hasta el 4 de junio. Todas esas grabaciones acumulan un total de 1,8 millones de vistas.
Tan solo un video, publicado por una página llamada “Evolutionary explorations” tiene, a la fecha, 358 mil vistas.
Todas estas cuentas han publicado de forma coordinada estos videos. Por ejemplo, el 5 de mayo, cinco páginas compartieron dos versiones de estas grabaciones con pocos minutos y horas de diferencia. Incluso los copys son iguales.
Además, las páginas tienen características que evidencian su coordinación. Por ejemplo, tienen nombres similares como “Inscríbete”, “”Hаzlo”, “Sea el primero en saberlo”, “Participe en” o “Buen tiempo” e incluso sus fotos de perfil son idénticas.
25 de las 30 páginas revisadas fueron creadas recientemente, entre el 7 marzo y el 11 de mayo de este año, y según la información de Facebook, 16 son administradas por personas que indicaron residir en Ucrania.
Como explica Facebook, es normal que varias personas puedan administrar una misma página en esta red. Y a partir de las ubicaciones de dichos perfiles, Facebook determina cuál es el lugar principal desde donde se supone es administrada una página.
Sin embargo, para un perfil es muy fácil cambiar su lugar de residencia. Los usuarios pueden indicar que residen en cualquier ciudad o país, sin realmente vivir ahí.
Las 30 cuentas, a simple vista, se ven como páginas que no tienen ningún tipo de actividad. De hecho, ninguno de los videos falsos son visibles al navegar en esos perfiles. Todos están ocultos.
Pero, en la Biblioteca de Anuncios de Meta, donde pueden consultarse las publicaciones que cada página de Facebook pauta para llegar a más personas, hay registro de que de las 30 páginas, 12 han pagado publicidad para que los videos falsos tengan más vistas.
Eso no quiere decir que las otras 18 páginas no hayan pautado sus videos. Valentina Ortega, investigadora de Linterna Verde, una ONG que trabaja en temas de debate público y espacios digitales, le explicó a La Silla que “cuando finalizan los anuncios o estos son eliminados dejan de aparecer en la Biblioteca, a menos que estuvieran marcados como políticos o sociales (una etiqueta que hace se mantengan alojados hasta por siete años). De lo contrario, solo aparecen los anuncios vigentes en ese momento o, en palabras de la plataforma, que actualmente estén en circulación”.
Al momento de publicar esta investigación eran pautadas 181 publicaciones. Su público objetivo eran personas de Bogotá, Antioquia o Valle del Cauca, mayores de 35 años.
Ese grupo etario es estratégico, pues agrupa a personas que pueden contar con un capital para invertir e incluye a la tercera edad, mayores de 65 años, que según varios estudios, como este publicado en 2019 por Science Advances, son más vulnerables a las estafas en Internet y a creer y difundir desinformación.
Meta, la empresa matriz de Facebook, Instagram y WhatsApp, bajó la mayoría de los anuncios pues fueron puestos en circulación sin descargo de responsabilidad, un requisito que aplica para aquellas pautas relacionadas con temas sociales, políticos o electorales. Sin embargo, alcanzaron a gastar al menos 2.900 dólares, unos $11 millones de pesos.
Los anunciantes configuraron pagarle a Facebook en euros, libras egipcias, leus rumanos y coronas checas. Aunque el tipo de moneda es algo que el Administrador de Anuncios de Facebook permite modificar en el apartado de Facturación. Es decir, eso no es necesariamente un indicio del país en el que fueron creadas las páginas o programadas las pautas.
Cuando La Silla hizo la revisión, de los 181 videos en circulación por medio de pauta, 42 eran de la cuenta “Starchy Third”. Pero, esa página después borró 38 anuncios y ahora solo hay 4 visibles.
Y la cuenta “Starbucks Aruba”, que aparenta ser un perfil oficial de esa franquicia, ha pautado 65 videos falsos de estafa. Sus pautas suman aproximadamente 1.128 dólares, que equivalen a 4,4 millones de pesos colombianos.
Entre las grabaciones pautadas por “Starbucks Aruba”, no solo hay videos falsos donde suplantan a Noticias Caracol, sino también a Noti7, un medio de Guatemala.
Todas las publicaciones adjuntan un enlace que redirige a una página espejo con información sobre por qué Colombia es un gran país para invertir. Sin embargo, La Silla identificó que cuando la pauta del video está activa; es decir, está en circulación, el contenido de ese link cambia.
Desde Linterna Verde, Ortega dijo que era posible que las páginas eliminaran “el enlace de la publicación después de haber estado en línea, lo que explica por qué ya no aparece. Sin embargo, es probable que el enlace estuviera disponible inicialmente, permitiendo que la persona contactada viera un formulario pidiendo datos personales”.
Cuando María González*, la mujer de 67 años que no cayó en esta estafa, le apareció la publicidad de uno de esos videos, el enlace la redirigió no a una página informativa, sino a un formulario donde le pedían su nombre completo, correo y número de celular. La página, además, simulaba ser del periódico El Tiempo, a pesar del dominio: “worldfcol.com”.
La Silla llenó uno de esos formularios y un número colombiano llamó. Al otro lado de la línea había un hombre con acento argentino, quien explicó que la inversión se haría por medio de una aplicación de celular de trading —que son por medio de las cuales se puede invertir en mercados financieros— llamada Axia Trade.
El hombre indicó que era cuestión de cargar aproximadamente un millón de pesos a la aplicación y esperar los rendimientos. La Silla le preguntó si la app tenía algún tipo de garantía o regulación y el hombre respondió que eso no era necesario porque el dinero podía ser retirado en cualquier momento.
Sin embargo, en la Play Store de Google hay cientos de comentarios negativos sobre Axia Trade. 973 usuarios le han dado la menor calificación (1 estrella) y han comentado que la aplicación es una estafa pues invirtieron su dinero y nunca lo pudieron retirar.
En Internet también hay videos y blogs de trading que recomiendan no invertir en esta aplicación por su reputación online y porque Axia, según su página web, dice estar registrada en Seychelles, unas islas de África Oriental que hasta febrero de este año estuvo en el listado de paraísos fiscales de la Unión Europea.
La Silla intentó comunicarse al número de celular y correo electrónico que están disponibles en la página web de Axia Trade, para saber si la empresa conocía la promoción que se está haciendo de su aplicación usando desinformación y videos creados con inteligencia artificial en Facebook, pero no hubo respuesta al momento de publicar esta investigación.
En todo caso, Axia Trade no es la única aplicación que ha sido promocionada con este tipo de videos falsos. Por ejemplo, videos de la página “Éxito Financiero” han redirigido a una app de compra de criptomonedas llamada CryptoCompassPro que ya no está disponible en la Play Store de Google, como encontró ColombiaCheck.
A su vez, La Silla Vacía contactó a Meta para recibir información sobre la circulación y regulación de este tipo de anuncios, pero al momento de publicar esta investigación no hubo respuesta.
Este tipo de videos creados con inteligencia artificial que alteran imágenes y grabaciones reales de medios de comunicación, empresarios o políticos famosos para estafar a las personas también circulan en otros países como México, Estados Unidos y España.
Con el mismo patrón de los videos que promocionan un proyecto de inversión, hay otros que juegan con la ilusión de las personas por mejorar su salud. En Facebook circulan clips que afirman que fue encontrada una cura milagrosa contra la diabetes.
La mayoría simulan mostrar un discurso del presidente Gustavo Petro diciendo que existe un medicamento que puede eliminar la diabetes en pocos días. Usan logos de noticieros —como Caracol y Telemundo— y, en ocasiones, usan apartes de emisiones de noticias. Otros presentan al científico Manuel Elkin Patarroyo hablando del supuesto tratamiento.
Los videos, que pueden parecer reales, son falsos. Ni Petro ha dado discursos sobre eso, ni Patarroyo habló del supuesto remedio, ni hay emisiones de noticias sobre el tema, ni mucho menos existe una cura para la diabetes. Todo indica que fueron montajes creados con inteligencia artificial.
Aun así, las publicaciones logran su objetivo: que las miren millones de veces y, de paso, engañar a unos cuantos.
La Silla identificó 13 cuentas que, con pocos seguidores, han conseguido que 19 videos desinformadores sobre la diabetes acumulen más de 3,7 millones de vistas y se hayan compartido más de 22 mil veces en los últimos 7 meses.
La mayoría de esas publicaciones —14 de los 19 videos— difunden desde 10 cuentas el supuesto discurso de Petro, en el que autoriza un descuento por vía de un decreto e invita a las personas a dar clic para obtenerlo. Estos videos circularon por menos de un mes —del 10 de abril al 6 de mayo— y acumularon 2,8 millones de vistas y fueron compartidos más de 13 mil veces. Solo uno de estos alcanzó 962 mil visualizaciones.
Sin embargo, al hoy dar clic en los links que acompañan a esas publicaciones, los links a los que redirigen no cargan. Algunas de las URL son: “ecoledepeinturedf.shop”, “artistesitaliensafa.shop”, “reformesculturel.shop” o “modelozhashtak.shop”.
Es posible que estas publicaciones funcionaran como las del proyecto de inversión: durante un tiempo el link dirige a una página con un formulario, u otra acción, que induce a las personas a proporcionar su información y luego depositar su dinero. Sin embargo, no pudimos comprobarlo para este caso.
Al revisar las páginas que difunden estos videos hay semenjanzas que indican su coordinación. Por ejemplo, la mayoría aparentan ser de aplicaciones móviles.
Nueve de las 10 cuentas que publicaron los videos de Petro, en la descripción de su perfil tienen un link para descargar una aplicación en la Play Store de Google.
Cuatro promocionan la aplicación “Housy: Plan de Limpieza”, que ayuda a hacer seguimiento a las tareas del hogar; otras cuatro la app “20 20 20 Eye Care”, que ayuda a los usuarios a descansar los ojos por uso frecuente de pantallas; y otra cuenta a “Homeaglow for Cleaners”, en el que personas que trabajan limpiando casas pueden conectar con sus clientes.
Esas cuentas tienen fotos de perfil y de portada parecidos: las primeras cuatro con logos e imágenes promocionales de la aplicación; las siguientes cuatro con imágenes de juguetes, y la última también con imágenes de la aplicación de limpieza.
Las cuentas tienen pocos seguidores y nombres extraños como “Hilda Carrie”, “Eliy” o “mylifeonboats”. Incluso una de ellas, “Haji Ameer General Trading L.L.C”, usa el mismo nombre de una tienda de artículos de cocina en Dubai.
En ninguno de los perfiles hay rastro de los videos. Estos son hechos como publicaciones ocultas en el perfil que son pautadas para difundir la desinformación.
Siete de las 13 páginas analizadas afirman ser administradas por personas fuera de Colombia, como Ucrania, Polonia o China. Pero como fue indicado más arriba, en Facebook cualquier persona puede indicar la ciudad o país de residencia que quiera, sin realmente vivir allí.
A la fecha de publicada esta investigación, según la Biblioteca de Anuncios de Meta, tres de las 13 cuentas tienen anuncios activos. Es decir, intentaron pagarle a Facebook para circular sus publicaciones entre un público específico.
Sin embargo, ninguna de estas tres son pautas puestas a circular en Colombia, sino en Francia y Alemania. Para el caso de Francia (aquí y aquí) el video promociona la supuesta cura para la diabetes pero en lugar de Petro, simulan las supuestas palabras del presidente Emmanuel Macron; en vez de Patarroyo, muestran al infectólogo francés Didier Raoult, y en lugar de Caracol, aparece el logo del medio France 24. Los dos anuncios fueron inhabilitaron por infringir normas de publicidad.
El de Alemania, por su lado, fue eliminado por Meta y no muestra cuál era su contenido. 2.869 personas vieron los tres anuncios.
Aunque en estos momentos ninguno de los videos de la supuesta cura contra la diabetes que supuestamente recomienda Petro estén siendo promocionados en Colombia, esto no quiere decir no lo hayan estado, como demuestran sus cifras de visualización.
Como explicó Linterna Verde, la Biblioteca de Anuncios de Facebook una vez finaliza o es eliminada una pauta, solo mantiene el historial de aquellas relacionadas con temas sociales, políticos o electorales.
Ahora, actualmente hay cientos de anuncios activos en Facebook con remedios, medicamentos y curas contra esta y otras enfermedades, y muchos también usan IA.
Como este publicado el 7 de junio de una supuesta emisión de Noticias Uno, en el que el científico Manuel Elkin Patarroyo recomienda un medicamento para curar la hipertensión. El video ya tiene 28 mil reproducciones.
Cuando los usuarios ven la publicidad en su feed y dan clic en el enlace que la acompaña son dirigidos a una página en la que pueden hacer el pedido de un medicamento llamado “Carditone”, con un 50% de descuento. Para esto les piden diligenciar un formulario.
El link que acompaña el video es un URL demasiado largo, y está programado para presentar tres interfaces distintas (aquí la navegación en una de las páginas que arroja el enlace).
Pero cuando revisamos el link desde la Biblioteca de Anuncios aparece una página sin la promoción ni la indicación para llenar los datos. Incluso, al tratar de guardar la URL en Wayback Machine, guarda es esta última página, y no la del medicamento siendo promocionado. Se trata de una estrategia de camuflaje que dificulta más el rastreo de este tipo de estafas.
A su vez, La Silla Vacía contactó a Meta para recibir información sobre la circulación y regulación de este tipo de anuncios, pero al momento de publicar esta investigación no hubo respuesta.
Al buscar en Google el supuesto medicamento “Carditone”, aparecen e-commerces (como este y este) que lo estarían vendiendo. En una de las descripciones del producto aparece que su registro Invima (Instituto Nacional de Vigilancia de Medicamentos y Alimentos) es: “NSA – 00085863 – 2020”. Sin embargo, al consultar en la página del Invima no se encuentra tal registro. Tampoco el “NSA – 008563 – 2020”, que también es mencionado.
Como ya ha señalado esa entidad, no contar con este registro indica que el producto no ofrece garantías de calidad, seguridad ni eficacia, y su comercialización es ilegal.
Falta de regulación, anonimato y sofisticación de la IA: un cóctel perfecto para los estafadores
La mayoría de los comentarios en las publicaciones revisadas para esta investigación alertan de la falsedad de los videos o de la sospecha de que lo que promocionan puede ser una estafa, como se ve aquí.
Sin embargo, el caso de María González* muestra que sí hay personas que pueden caer en este tipo de estafas por Internet. Además, hay otros comentarios de personas que creen en el supuesto proyecto de inversión o en la supuesta cura contra la diabetes, e incluso, algunos afirman haber sido víctimas de la estafa.
A pesar de esos comentarios y de los reportes que terceros verificadores de Meta —el programa de fact-checking de esa red social—, como lo son La Silla Vacía y ColombiaCheck, han hecho a algunas de estas publicaciones, videos como estos siguen difundiéndose. Y cada día aparecen nuevas cuentas y nuevas pautas.
Según las normas comunitarias de Meta, en Facebook no pueden haber contenidos que promuevan estafas. Y en teoría, según la política de moderación de contenido de esa red, cada una de las publicaciones y anuncios que se ponen en circulación son revisados para corroborar que cumplan con las normas, y los que no lo hagan son eliminados.
Pero, como cuenta esta investigación sobre un grupo de aplicaciones de créditos abusivos que usan publicidad de Meta para atraer víctimas, la moderación de los contenidos que son pautados en Facebook, que se hace principalmente con herramientas automatizadas y ocasionalmente emplean personas, se queda corta.
De hecho, tras una revisación de los videos falsos de estafa, Valentina Ortega, investigadora de Linterna Verde, le explicó a La Silla que “el volumen masivo de contenido generado cada segundo supera la capacidad de los equipos de moderación”.
La Silla Vacía también ha documentado cómo por medio de los anuncios de Facebook, diferentes páginas han difundido contenidos con desinformación y creados con inteligencia artificial para enlodar a políticos en las elecciones presidenciales de 2022 y en las regionales de 2023.
Por otro lado, con la creación de más y mejores herramientas de inteligencia artificial, este tipo de estafas pueden aumentar su sofisticación para tener mayor credibilidad y engañar a más personas.
Alejandro Lozada, experto en IA y magíster en Sistemas Adaptativos Complejos, explica que en estos videos se mezclan varias tecnologías, desde técnicas de edición clásicas como las producidas por inteligencia artificial: el uso de videos reales de noticias, la edición de los movimientos de la boca de las personas para que parezcan que dicen otra cosa, la simulación de la voz, entre otros. “En todas estas tecnologías hay avances significativos muy grandes y se van a poner mejor”, vaticina Lozada, y agrega que por eso cada vez será “muy difícil, por lo menos para un consumidor promedio diferenciar lo uno de lo otro”.
Un estudio de Kaspersky, empresa global de ciberseguridad, encontró que el 70% de los usuarios latinoamericanos desconoce qué es un deepfake. Es decir, la técnica que usa IA para crear secuencias falsas y realistas en las que personas hacen o dicen cosas que nunca dijeron o hicieron.
El estudio encuestó entre febrero y marzo de 2021 a 2.358 personas entre los 25 y los 65 años en seis países de la región (Argentina, Brasil, Chile, Colombia, México y Perú). En Colombia, el 63% de los encuestados desconocía el término, y el 72% no pudo reconocer cuándo un video fue editado digitalmente con esta técnica.
A esto se suman las estrategias que usan estas páginas para ocultarse o camuflarse y hacer cada vez más difícil su rastreo. Por ejemplo, eliminar sus anuncios del Administrador una vez finalizan para que no quede rastro en la Biblioteca de Anuncios de Meta, o no hacer su descargo de responsabilidad. También está la reprogramación de los sitios web que acompañan los videos, para que cuando el anuncio circule y los usuarios den clic dirija a formularios para captar datos y cuando finalice muestren interfaces completamente distintas.
Ortega, de Linterna Verde, explicó a La Silla que aunque estas publicaciones anuncian que las personas pueden obtener ganancias o soluciones al hacer clic, como “no está realmente adjunto, entonces no se estaría realmente generando en este momento un beneficio económico, un criterio que pide la política de fraude y engaño para entrar a moderar”.
La investigadora dijo que “en este tipo de casos los sistemas de moderación presentan numerosas fallas y a menudo toman —o no— decisiones de manera inconsistente debido a la falta de claridad y a los vacíos en las propias políticas”.
*Cambiamos el nombre real de la persona entrevistada para proteger su privacidad.
