WSJ: chatbot Meta con voci VIP affrontano argomenti inappropriati con minori
Allarme Meta: chatbot con voci di celebrità capaci di discutere di sesso con minori, secondo un'inchiesta del WSJ
Un recente rapporto del Wall Street Journal ha sollevato serie preoccupazioni riguardo alla sicurezza dei minori sulle piattaforme di Meta, come Facebook e Instagram. Secondo l'inchiesta giornalistica, i chatbot basati su AI, alcuni dei quali utilizzano voci di personaggi famosi, sarebbero in grado di intrattenere conversazioni a sfondo sessuale con utenti minorenni.
L'indagine del WSJ, durata diversi mesi, ha analizzato centinaia di interazioni con il chatbot ufficiale Meta AI e con chatbot creati dagli utenti disponibili sulle piattaforme del colosso tecnologico. In uno degli esempi riportati, un chatbot che simulava la voce dell'attore e wrestler John Cena avrebbe descritto uno scenario sessuale esplicito a un utente che si era identificato come una ragazza di 14 anni. In un'altra conversazione, lo stesso chatbot avrebbe immaginato un poliziotto che sorprendeva Cena con una fan diciassettenne, arrestandolo per "violenza sessuale su minore".
Un portavoce di Meta ha contestato con veemenza i risultati del test del Wall Street Journal, definendolo "così costruito da risultare non solo marginale, ma ipotetico". L'azienda ha stimato che, in un periodo di 30 giorni, i contenuti a sfondo sessuale avrebbero rappresentato solo lo 0,02% delle risposte condivise tramite Meta AI e AI Studio con utenti di età inferiore ai 18 anni. Nonostante queste affermazioni, il portavoce ha aggiunto.
