Cuando la IA y la desinformación van de la mano: campañas replicadas cientos de veces a un coste mínimo

Cuando a un niño se le regala un balón, pueden darse dos resultados: este puede dedicarse a dar patadas a la pelota y destrozar todo lo que esté en su camino, o puede darle un buen uso y terminar siendo Julián Álvarez. Con la inteligencia artificial ocurre lo mismo, no deja de ser una herramienta que puede optimizar las tareas diarias, pero que también puede ser clave para la creación y difusión de campañas de desinformación.

Así lo refleja un informe del Servicio de Vigilancia y Protección contra las Injerencias Digitales Extranjeras (VIGINUM), dependiente del Gobierno francés, que explica cómo se usa esta tecnología para generar y difundir bulos a gran escala y los riesgos que supone para la ciudadanía.

• No obstante, para el organismo francés la inteligencia artificial actualmente “representa más una ‘evolución’ que una ‘revolución’ en términos de amenaza informativa”. 

• Si bien es cierto que ayuda a difundir grandes volúmenes de contenido a un coste más bajo, hasta ahora la IA no ha creado “nuevos métodos operativos” para difundir contenidos falsos.

Modus operandi. La inteligencia artificial puede utilizarse para generar todo tipo de contenidos que difundan desinformación. La herramienta ofrece la posibilidad de crear textos con afirmaciones falsas y sin pruebas, imágenes de situaciones que nunca han existido, vídeos manipulados o fabricados desde cero y audios que clonan la voz de una o más personas.

• El informe destaca que estos contenidos se han utilizado para publicar artículos en páginas web que se hacen pasar por medios de comunicación para ganar credibilidad entre los usuarios, pero que en realidad son difusores de desinformación, como las campañas Doppelgänger y Stom-1516.

• El organismo francés también ha observado una tendencia para crear imágenes llamativas que captan la atención de los usuarios hacia mensajes que difunden “narrativas polarizantes”, como los bulos sobre los migrantes.

• En cuanto a vídeos manipulados, el informe destaca la difusión de un deepfake en el que se suplantó un informativo de la televisión francesa para acusar al gobierno ucraniano de tramar un plan para asesinar a Emmanuel Macron. 

• También cita una campaña de desinformación en la que se clonaron las voces de profesores universitarios para pedir el fin de las sanciones impuestas a Rusia y la rendición de Ucrania.

Habilidades para difundir desinformación a gran escala. La inteligencia artificial ofrece a los difusores de desinformación la oportunidad de “optimizar su productividad”, puesto que agiliza procesos como la creación, traducción y replicación de contenidos, señala el organismo francés. El informe destaca que estas habilidades permiten: 

• La internacionalización de las campañas de desinformación gracias a las mejoras en la traducción de textos a diferentes idiomas y lenguas cooficiales. Aunque los sigue habiendo, se han corregido muchos errores gramaticales y sintácticos, señala el informe.

• La difusión de un mismo mensaje formulado de maneras distintas en varias webs para que no sea idéntico y “dificulte la identificación de una campaña falsa y coordinada”.

El organismo francés también hace hincapié en el poder que tienen los algoritmos de plataformas como YouTube y TikTok que ofrecen a sus usuarios “contenidos similares con los que han interactuado”.

• De esta manera, se amplifica el “efecto madriguera de conejo”, por el cual el usuario termina “en una burbuja de contenidos potencialmente manipulados”, añade el informe.

Distorsión de la realidad. Como ya han señalado otros expertos, uno de los mayores riesgos que supone la difusión de contenidos desinformativos generados con inteligencia artificial es la llegada a un punto en el que lo real se cuestione. 

• Esta visión distorsionada de la realidad puede provocar “efectos duraderos y negativos en el funcionamiento de la democracia”, especialmente durante períodos electorales, y derivar en una “desestabilización de nuestras sociedades, que se basan en la noción de confianza”, apunta el informe.

• “En un momento en que la confianza de la ciudadanía en la información parece debilitarse, es probable que este fenómeno aumente aún más la desconfianza de ciertos ciudadanos hacia los medios de comunicación y los verificadores, creando un caldo de cultivo para quienes manipulan la información”, asegura el organismo francés.

Posibles beneficios para los verificadores. Como cualquier herramienta, la IA también puede usarse para obtener resultados positivos. A pesar de los riesgos que supone si se le da un mal uso, la inteligencia artificial también brinda a los verificadores oportunidades para hacer frente a la desinformación.

• El informe pone como ejemplo las herramientas de detección de palabras clave para identificar narrativas de desinformación, así como las campañas extranjeras contra un país mencionando al propio Estado o a alguna de sus localidades.