Scienziati e Papa Leone XIV: tutti convergono sull’enorme minaccia esistenziale costituita dalla AI, che arriva al 90% di probabilità

Nella sua prima udienza formale come pontefice appena eletto, Papa Leone XIV ha identificato l‘intelligenza artificiale (AI) come una delle questioni più critiche che l’umanità deve affrontare.

“Ai nostri giorni”, ha dichiarato Papa Leone, ‘la Chiesa offre a tutti il tesoro del suo insegnamento sociale in risposta a un’altra rivoluzione industriale e agli sviluppi nel campo dell’intelligenza artificiale che pongono nuove sfide per la difesa della dignità umana, della giustizia e del lavoro’. Ha collegato questa dichiarazione all’eredità dell’enciclica Rerum Novarum del 1891 del suo omonimo Leone XIII, che trattava dei diritti dei lavoratori e delle dimensioni morali del capitalismo. Perché, effettivamente, bisogna trovare un nuovo spazio al lavoro umano, quando questo viene distrutto dalla AI, soprattutto quello intellettuale. 

Le sue osservazioni hanno proseguito la direzione tracciata dal defunto Papa Francesco, che nel suo messaggio annuale per la pace del 2024 ha avvertito che l’IA – priva dei valori umani di compassione, misericordia, moralità e perdono – è troppo pericolosa per svilupparsi senza controllo. Francesco, scomparso il 21 aprile, aveva chiesto un trattato internazionale per regolamentare l’IA e aveva insistito sul fatto che la tecnologia deve rimanere “incentrata sull’uomo”, in particolare nelle applicazioni che riguardano sistemi d’arma o strumenti di governo.

Papa Leone XIV – Media del Vaticano

Minaccia esistenziale per l’Umanità al 90%

Mentre la preoccupazione si intensifica in ambito religioso ed etico, un’analoga urgenza risuona nella comunità scientifica.

Max Tegmark, fisico e ricercatore di IA al MIT, ha tracciato un preoccupante parallelo tra gli albori dell’era atomica e l’attuale corsa allo sviluppo della superintelligenza artificiale (ASI). In un nuovo articolo scritto insieme a tre studenti del MIT, Tegmark ha introdotto il concetto di “costante Compton”, una stima probabilistica della possibilità che l’ASI sfugga al controllo umano. Prende il nome dal fisico Arthur Compton, che negli anni ’40 calcolò il rischio di incendio dell’atmosfera terrestre a causa di test nucleari.

“Le aziende che costruiscono la superintelligenza devono calcolare anche la costante Compton, ovvero la probabilità di perdere il controllo su di essa”, ha dichiarato Tegmark al Guardian. “Non basta dire ‘ci sentiamo a posto’. Devono calcolare la percentuale”.

Tegmark ha calcolato una probabilità del 90% che un’IA altamente avanzata rappresenti una minaccia esistenziale.

Il documento esorta le aziende produttrici di IA a intraprendere una valutazione del rischio altrettanto rigorosa di quella che precedette il primo test della bomba atomica, dove Compton avrebbe stimato le probabilità di una reazione a catena catastrofica a “poco meno” di una su tre milioni.

Tegmark, cofondatore del Future of Life Institute e sostenitore della sicurezza dell’IA, sostiene che il calcolo di queste probabilità può aiutare a costruire la “volontà politica” per i regimi di sicurezza globali. È anche coautore del Singapore Consensus on Global AI Safety Research Priorities, insieme a Yoshua Bengio e ai rappresentanti di Google DeepMind e OpenAI.

Il rapporto delinea tre punti focali per la ricerca: misurare l’impatto dell’IA nel mondo reale, specificare il comportamento previsto dell’IA e garantire un controllo coerente sui sistemi.

Questo rinnovato impegno per la mitigazione dei rischi dell’IA fa seguito a quella che Tegmark ha descritto come una battuta d’arresto al recente Vertice sulla sicurezza dell’IA di Parigi, dove il vicepresidente degli Stati Uniti JD Vance ha liquidato le preoccupazioni affermando che il futuro dell’IA “non si vincerà con i piagnistei sulla sicurezza”. Tuttavia, Tegmark ha notato una ripresa della cooperazione: “Sembra davvero che il buio di Parigi sia passato e che la collaborazione internazionale sia tornata a ruggire”.

Probabilmente, pià che sulla sicurezza, bisognerebbe iniziare a pensare alla finalità profonda della AI, a darle un  senso legato alla tutela dell’umanità

L'articolo Scienziati e Papa Leone XIV: tutti convergono sull’enorme minaccia esistenziale costituita dalla AI, che arriva al 90% di probabilità proviene da Scenari Economici.