“Agenti virtuali per stanare criminali e attivisti”: così le autorità Usa hanno ingaggiato l’AI

Sono poliziotti virtuali che navigano su Facebook e Instagram, ma anche Discord e Reddit. E sono indistinguibili dagli altri utenti, con cui puntano a stabilire un’interazione via chat. Sono agenti costruiti con l’intelligenza artificiale: un esercito di chatbot a caccia di informazioni, dispiegato dalle autorità Usa sul fronte social con l’obiettivo di identificare i criminali. Ma, secondo alcuni esperti, vogliono monitorare anche manifestanti e attivisti politici.

È il punto d’arrivo dell’ultima inchiesta di 404 media, il giornale americano – specializzato su tecnologia e AI – che l’anno scorso ha rivelato al mondo che i cellulari possono ascoltarci, proponendo annunci pubblicitari ultramirati attraverso i dati raccolti. Allora 404 media puntò i riflettori su Cox Media Group, un’azienda americana che offre proprio questo servizio (il cosiddetto “active listening). E anche questa volta c’è di mezzo una società statunitense, con sede a New York. Si chiama “Massive Blue” e il prodotto che vende, l’IA “Overwatch”, è rivolto agli apparati di sicurezza. Alcuni dipartimenti di polizia, situati lungo il confine con il Messico, starebbero investendo centinaia di migliaia di dollari in questa tecnologia.

In una presentazione aziendale si legge che Overwatch impiega agenti virtuali che operano sotto copertura su piattaforme social e app di messaggistica e sono a servizio della polizia. Ogni IA ha una sua identità, definita in base alle caratteristiche dell’obiettivo, inclusa la rete criminale d’appartenenza. Lo scopo principale di Overwatch è raccogliere prove da utilizzare contro il soggetto coinvolto. Il sistema agisce proattivamente, scandagliando le piattaforme alla ricerca di profili sospetti.

Nel 2023 la Contea di Pinal (Arizona) ha firmato un contratto da 360mila dollari con Massive Blue, che prevede il monitoraggio 24/7 di social e web, grazie ad una task force composta da cinquanta identità AI. L’inchiesta dà conto di valutazioni, incontri preliminari e progetti in corso con altre istituzioni, tra cui le contee di Cochise e Yuma o il Dipartimento di Pubblica Sicurezza del Texas. Questo strumento, almeno in base alle evidenze sinora disponibili, sembra aver destato un interesse diffuso tra funzionari di polizia e dirigenti di pubblica sicurezza. Inoltre il direttore esecutivo di Massive Blue, Chris Clem, è vicino a figure di spicco dell’amministrazione Trump come la direttrice dell’intelligence Tulsi Gabbard o il segretario alla Salute Robert Kennedy Junior.

Stando ad alcuni esperti, però, il rischio è che queste identità IA, con profili costruiti ad hoc, possano infiltrarsi in gruppi di protesta – con l’obiettivo di identificare, profilare e monitorare chi manifesta. La tecnologia di Massive Blue può essere sì adoperata per disarticolare giri d’affari illegali – tra cui il traffico di esseri umani – e prevenire determinati crimini, ma alcune identità digitali sembrano programmate per altri scopi. Ad esempio, oltre ad escort e vittime di tratta, ci sono anche i profili virtuali di un’attivista progressista (trentaseienne, divorziata, con l’hobby della cucina e un interesse per la “body positivity”), o più di un manifestante universitario (militanti “radicalizzati” e “college protesters”), che operano come agenti online.

Secondo Dave Maass della “Electronic Frontier Foundation”, che studia le tecnologie di sorveglianza, le finalità di questo strumento sono troppo vaghe: “Quale problema stanno davvero cercando di risolvere? A cosa serve davvero questa tecnologia?”, si chiede Maass, convinto che strumenti come Overwatch, se finissero nelle mani sbagliate, potrebbero violare le libertà garantite dal Primo Emendamento.

L'articolo “Agenti virtuali per stanare criminali e attivisti”: così le autorità Usa hanno ingaggiato l’AI proviene da Il Fatto Quotidiano.