Con la crescente diffusione dell’intelligenza artificiale, non sorprende che anche i malfattori che si celano dietro le minacce online stiano alzando i ritmi, adottando l’IA in modo sistematico nei loro attacchi informatici.

L’IA consente di potenziare le attività complesse come lo spear-phishing, il deepfake, la generazione di malware polimorfici e le campagne di “minacce persistenti avanzate” (APT), con conseguenze significative in termini di sofisticazione e di portata delle loro operazioni.
Questo ha costretto i professionisti della sicurezza in uno stato reattivo, non con poche difficoltà a tenere il passo con tale proliferazione di minacce.

Mentre l’IA rimodella il futuro dei rischi informatici, anche chi deve difendersi sta cercando di integrare le tecnologie di IA nel proprio stack di sicurezza.

L’adozione di soluzioni di protezione informatica basate sull’IA consente agli addetti alla sicurezza di rilevare e rispondere a queste minacce avanzate in modo più rapido e accurato, nonché di automatizzare le attività tradizionalmente manuali e di routine.

L’impatto dell’IA sul panorama delle minacce

L’integrazione dell’IA e della sicurezza informatica ha portato a progressi significativi in ​​diversi settori. Tuttavia, introduce anche dei nuovi rischi per la sicurezza, che mettono alla prova le difese tradizionali.

Tre principali preoccupazioni relative all’uso improprio che gli aggressori possono fare dell’IA sono:

1. l’aumento di nuovi attacchi di ingegneria sociale, più difficili da rilevare e in grado di bypassare gli strumenti di sicurezza tradizionali
2. la facilità di accesso per gli aggressori meno esperti per sferrare attacchi avanzati con velocità e scalabilità
3. l’attacco all’IA stessa, inclusi i modelli di apprendimento automatico, corpus di dati e API o interfacce.

Nel contesto dell’ingegneria sociale, l’IA può essere utilizzata per creare email di phishing più convincenti, condurre ricognizioni avanzate e simulare interazioni simili a quelle umane per ingannare le vittime in modo più efficace.

Strumenti di IA generativa, come ChatGPT, sono già utilizzati dagli aggressori per creare queste sofisticate trappole via email, che possono imitare più efficacemente la semantica umana senza errori di ortografia o grammatica e includere informazioni personali estratte da fonti Internet come i profili dei social media. Tutto questo può essere fatto a una velocità elevata e sulle capacità di larga scala delle macchine.

Inoltre, questi sofisticati attacchi di ingegneria sociale sono ora in grado di aggirare gli strumenti di sicurezza tradizionali.

E mentre la proliferazione di nuovi attacchi alimentati dall’IA persiste, tali strumenti abbattono anche le barriere d’ingresso per gli aggressori. Gli strumenti di IA disponibili al pubblico semplificano l’automazione di attività complesse che in precedenza richiedevano competenze tecniche avanzate. Inoltre, le piattaforme basate sull’IA e i kit di phishing disponibili sul dark web offrono soluzioni pronte all’uso, consentendo anche agli aggressori alle prime armi di eseguire campagne informatiche efficaci con il minimo sforzo.

L’impatto dell’uso dell’IA da parte degli aggressori sul panorama delle minacce in continua evoluzione è importante per le organizzazioni, poiché cambia radicalmente il modo in cui dobbiamo affrontare la sicurezza informatica. Tuttavia, sebbene l’intersezione tra sicurezza informatica e IA possa avere implicazioni potenzialmente negative, è importante riconoscere che l’IA può anche essere utilizzata per proteggerci.

Dal 2023, l’IA generativa nella sicurezza informatica

Quando si parla di IA nella sicurezza informatica, ci si riferisce in genere all’IA generativa, diventata popolare nel 2023.

Sebbene non sintetizzi in modo esaustivo cos’è la sicurezza informatica basata sull’IA o cosa l’IA può fare in questo ambito, è importante capire cos’è l’IA generativa e come può essere implementata per aiutare le aziende ad anticipare le minacce odierne.

L’IA generativa (ad esempio, ChatGPT o Microsoft Copilot) è un tipo di IA che crea contenuti simili (ma non identici) ai dati forniti in fase di addestramento.
Ha la capacità di generare immagini, video o testo sulla base di informazioni che apprende da grandi set di informazioni. Questi sistemi utilizzano algoritmi avanzati e tecniche di deep learning per comprendere modelli e strutture all’interno dei dati su cui vengono addestrati, consentendo loro di generare output coerenti, contestualmente rilevanti e spesso indistinguibili dai contenuti creati dall’uomo.

Per i professionisti della sicurezza, l’IA generativa offre alcune applicazioni valide. Principalmente, viene utilizzata per trasformare i dati di sicurezza complessi in riepiloghi chiari e concisi. Analizzando grandi quantità di log di sicurezza, avvisi e dati tecnici, può contestualizzare rapidamente le informazioni critiche e presentare i risultati in un linguaggio naturale e comprensibile. Ciò semplifica la comprensione delle informazioni critiche da parte dei team di sicurezza e migliora la comunicazione con gli stakeholder non tecnici. L’IA generativa può anche automatizzare la creazione di simulazioni realistiche a scopo di formazione, aiutando i team di sicurezza a prepararsi a diversi scenari di attacco informatico e a migliorare le loro strategie di risposta.

Nonostante i suoi vantaggi, l’IA generativa presenta anche dei limiti che le organizzazioni devono considerare. Una sfida è il potenziale rischio di generare falsi positivi, ovvero attività benigne che vengono erroneamente segnalate come minacce, il che può sovraccaricare i team di sicurezza con avvisi inutili. Inoltre, l’implementazione dell’IA generativa richiede notevoli risorse di calcolo e competenze, il che può rappresentare un ostacolo per alcune organizzazioni. Può anche essere soggetta ad attacchi ad iniezione rapida e sussistono rischi di fuga di proprietà intellettuale o dati sensibili quando si utilizzano strumenti disponibili al pubblico. Infatti, secondo il MIT AI Risk Registry, ci sono potenzialmente oltre 700 rischi che devono essere mitigati con l’uso dell’IA generativa.

Mantenere la sicurezza in un ambiente di IA in continua evoluzione

Con l’IA in continua evoluzione, le preoccupazioni relative alla privacy dei dati e alla gestione del rischio, sia per i privati ​​che per le aziende, continuano a crescere. Le autorità di regolamentazione stanno valutando diverse modalità per sviluppare l’IA e massimizzarne i benefici, riducendo al contempo la probabilità di impatti negativi sulla società. Tuttavia, attualmente negli Stati Uniti non esiste una legislazione federale completa in materia di IA. In Italia, le leggi sono arretrate e assolutamente non preparate per gestire un’evoluzione così rapida e in continuo cambiamento.

Quindi, cosa significa tutto questo? In che modo i progressi dell’IA influiscono sulla vita di tutti noi dal punto di vista della sicurezza?

Fortunatamente in situazioni quotidiane legate al lavoro esistono i sistemi di sicurezza commerciali, studiati apposta per proteggere imprese, uffici e commerci.

E per la sicurezza dei dati personali? Non è necessario apprendere nuove regole di sicurezza, ma dovresti rivedere la tua attuale protezione informatica e assicurarti che segua le migliori pratiche in aree critiche come password, privacy dei dati, sicurezza informatica personale e soprattutto ingegneria sociale.