La teoria infondata dell’audio di Papa Francesco generato dall’Intelligenza Artificiale

Circolano video in cui si sostiene che l’audio di Papa Francesco, diffuso dal Vaticano e condiviso su Vatican News, sia un deepfake generato dall’Intelligenza Artificiale. Per sostenere questa teoria, l’audio sarebbe stato analizzato con alcuni tool disponibili online. Abbiamo eseguito gli stessi test, approfondendo ulteriormente con altri esempi e abbiamo riscontrato quanto non sia possibile confermare che l’audio sia un falso.

Per chi ha fretta

• Effettuando gli stessi test, abbiamo ottenuto risultati diversi.
• Abbiamo effettuato dei test con audio prodotti in casa, dal vivo e non generati con l’AI, ottenendo dei falsi positivi.
• Il problema potrebbe riguardare i codec utilizzati, così come i rumori di fondo e altre variabili.

Analisi

Il video Youtube viene condiviso con la seguente descrizione:

La Sala Stampa Ufficiale del Vaticano, diffonde una falsa registrazione ospedaliera del presunto Papa Bergoglio.

CORRUZIONE AI VERTICI DEL VATICANO.

L’audio-messaggio di Bergoglio diffuso in mondovisione è FALSO. La controprova eseguita da Barbara Tampieri.

La “verifica” con Hiya Deepfake Voice Detector

Il video si basa su quello pubblicato dal canale Youtube “Codice Ratzinger” l’11 marzo 2025, nel quale viene mostrato il risultato ottenuto da due tool per identificare i deepfake.

Il primo tool mostrato nel video è un’estensione per Google Chrome, “Hiya Deepfake Voice Detector”, che avrebbe assegnato all’audio di 27 secondi di Papa Bergoglio un punteggio di autenticità pari a 1 su 100, indicandolo come possibile deepfake.

Abbiamo ripetuto la stessa analisi, utilizzando l’audio MP3 pubblicato dal sito di Vatican News. Il risultato? Completamente diverso.

I nostri risultati con Hiya Deepfake Voice Detector sono stati due: 28/100 e 75/100, punteggi nettamente diversi da quello riportato nel video. Perché questa discrepanza? Nel video, il test viene eseguito solo sui primissimi secondi dell’audio, poiché il tool analizza esclusivamente una breve porzione dell’audio, non quello intero. Di fatto, analizzando momenti diversi dell’audio si ottengono risultati diversi. Questo dimostra il responso del test dipende dall’area dell’audio analizzata, con il rischio concreto di generare falsi positivi nell’individuazione di un deepfake.

La “verifica” con DeepFake-O-Meter

Il secondo tool utilizzato DeepFake-O-Meter, il quale fornirebbe un pesante 98,6% di possibilità che si tratti di un prodotto generato con l’Intelligenza Artificiale.

Utilizzando sempre lo stesso audio fornito da Vatican News, così come lo stesso settaggio dell’analisi riportata nel video, otteniamo un risultato diverso: 52,3%.

Il “Detector” utilizzato nel test del video, lo stesso scelto per la “controprova”, si chiama AASIST è stato realizzato nel 2021. Questo sistema, come spiegato dai documenti di chi ci ha lavorato, opera la propria analisi su rappresentazioni spettrali e temporali del segnale vocale, il che implica che un rumore di fondo intenso, come quello presente nell’audio di Vatican News, potrebbe alterare queste rappresentazioni, rendendo più difficile l’identificazione di un audio falso e generato dall’AI.

Nel video di “Codice Ratzinger” riscontriamo una differenza tra i file analizzati. Secondo quanto riportato nei dettagli dell’analisi condotta, l’audio durerebbe 24.31 secondi, con una dimensione di 949.69 KB e Bitrate di 320 kbps. Secondo DeepFake-O-Meter, l’audio di Vatican News è lungo 27.22 secondi, con una dimensione di 425.25 KB e un Bitrate di 128 kbps.

La “verifica” con Resemble Detect

Passiamo a un altro video pubblicato il 12 marzo 2025 dal canale “Codice Ratzinger” dove viene utilizzato un terzo tool, ossia la versione gratuita di Resemble Detect. Sottoponendo l’audio di Vatican News, il tool sostiene che si tratti di un falso.

Abbiamo effettuato lo stesso test, ottenendo anche noi un risultato identico.

Per dimostrare che il tool funzioni, il video di “Codice Ratzinger” mostra ulteriori test con degli audio scaricati da Youtube, che già vengono processati dagli algoritmi della piattaforma. Scaricandoli con i tool disponibili online, è possibile che vengano ulteriormente processati. I file ottenuti in questo modo non possono essere considerati originali, ma simili con i difetti e le compressioni del caso.

Uno dei video utilizzati per estrapolare l’audio di Papa Francesco è uno short del canale @70GIANCARLOS “Benedizione di papa Francesco”. Scaricando l’audio da uno dei tanti tool disponibili online, questo viene indicato da Resemble Detect come vero. Abbiamo condiviso l’audio in una chat Whatsapp per poi scaricarlo in formato Mpeg e sottoporlo all’analisi del tool, ottenendo come risultato “falso“. Convertendolo in Mp3 (qui), il risultato ottenuto rimane invariato: “falso“.

Scaricando da Whatsapp un nostro audio inviato in chat, abbiamo sottoposto al tool l’analisi del file OGG convertito in Mp3 (sempre con questo tool). Nonostante fosse un audio prodotto da una persona vera tramite Whatsapp, Resemble Detect ci ha indicato il file come “falso“.

Cosa può essere successo? Tutto può dipendere dal fatto di non sottoporre un file audio originale al tool, con quali algoritmi siano stati convertiti e compressi, così come dall’influenza data dai rumori di fondo e da eventuali disturbi della voce stessa dell’autore.

Conclusioni

Non c’è modo per sostenere che le analisi effettuate confermino che si tratti di un audio generato con l’Intelligenza Artificiale. In gioco ci sono diverse variabili, così come non risulta possibile conoscere l’origine del file caricato da Vatican News. Ad esempio, non sappiamo se questo sia stato condiviso via Whatsapp, o attraverso qualche altra app, e poi convertito nel formato Mp3. In sostanza, non è possibile determinare l’originalità dell’audio attraverso i tool attualmente disponibili.

Questo articolo contribuisce a un progetto di Meta per combattere le notizie false e la disinformazione nelle sue piattaforme social. Leggi qui per maggiori informazioni sulla nostra partnership con Meta.

L'articolo La teoria infondata dell’audio di Papa Francesco generato dall’Intelligenza Artificiale proviene da Open.