Así magnifica la IA las campañas de desinformación sin que dejen de parecer creíbles

El uso de la inteligencia artificial (IA) puede ayudar a ampliar el alcance de las campañas de desinformación a través de la creación de artículos para webs concebidas con objetivos propagandísticos sin perder el nivel de persuasión ni la percepción de credibilidad del sitio online.

Así lo recoge el estudio Propaganda generativa: evidencia del impacto de la IA en una campaña de desinformación respaldada por el Estado, en el que un grupo de investigadores del Media Forensic Hub de la Universidad Clemson analiza cómo el sitio web DC Weekly utilizaba la IA para ampliar el alcance de sus campañas de propaganda prorrusa.

DC Weekly. Un informe de la BBC y Media Forensics Hub reveló en diciembre de 2023 que la web DC Weekly formaba parte de una operación rusa de manipulación de masas que difundía narrativas pro-Kremlin y antiucranianas a través de redes sociales y varios medios de África Occidental, Turquía, India o Egipto.

• DC Weekly se distinguía del resto de páginas utilizadas por esta campaña rusa porque era la única que aseguraba tener su sede en Estados Unidos y se centraba en llegar a los lectores de este país. Además, la página utilizaba periodistas ficticios y publicaba contenido constantemente.

El estudio. Los investigadores percibieron un cambio sustancial en el contenido publicado por DC Weekly antes y después del 20 de septiembre de 2023, fecha en la que, según el estudio, la web comenzó a crear artículos a través de la IA, concretamente con ChatGPT, aumentando exponencialmente la cantidad de contenido que publicaba y utilizando un lenguaje diferente. 

• La investigación ha analizado un total de 22.889 artículos publicados en la web entre abril y noviembre de 2023. 

Uso de IA para campañas de desinformación. Según el estudio, el uso de IA ayudó a DC Weekly a mantener la apariencia de un medio de comunicación digital “aparentemente profesional”. Le permitió producir un mayor volumen de contenido, percibido como igual de creíble y persuasivo que cuando la página funcionaba sin IA.

• El medio logró multiplicar por 2,4 su producción diaria de artículos en comparación con el período previo.

• Llegó a tener éxito entre numerosos lectores esencialmente porque integraba en sus mensajes fragmentos de contenido cogidos de otros medios tradicionales como Fox News, a diferencia del periodo previo, cuando se limitaba a pegar artículos de webs como The Gateway Pundit y RT.

• Informe ‘Propaganda generativa: evidencia del impacto de la IA en una campaña de desinformación respaldada por el Estado’