Sicurezza AI: nuovo attacco compromette la memoria di Google Gemini
Scoperta una vulnerabilità che permette di manipolare i ricordi a lungo termine dell'intelligenza artificiale di Google
Un esperto di sicurezza informatica ha identificato una nuova tecnica per aggirare le protezioni di Google Gemini, l'assistente virtuale basato sull'intelligenza artificiale. La scoperta, effettuata dal ricercatore Johann Rehberger, evidenzia come sia possibile manipolare la memoria a lungo termine del chatbot, inducendolo a memorizzare e utilizzare informazioni false in modo permanente.
La vulnerabilità sfrutta un meccanismo chiamato "delayed tool invocation" (invocazione ritardata degli strumenti), che permette di eludere le salvaguardie implementate da Google per proteggere gli utenti da potenziali attacchi. Questo tipo di exploit rappresenta un'evoluzione significativa nel campo emergente dell'hacking dell'intelligenza artificiale, dove l'iniezione indiretta di prompt è diventata uno degli strumenti principali per compromettere i sistemi di chat basati su AI.
Il funzionamento dell'attacco è relativamente semplice: quando un utente carica un documento contenente istruzioni nascoste e chiede a Gemini di riassumerlo, il sistema genera un riepilogo che include una richiesta mascherata per salvare specifici dati dell'utente. Questa operazione viene attivata quando l'utente risponde con determinate parole chiave come "sì", "certo" o "no". Una volta innescato il meccanismo, Gemini memorizza permanentemente le informazioni false specificate dall'attaccante.
