Chatbots no Instagram, Facebook e WhatsApp autorizados a ter conversas de cariz sexual com crianças

A Meta Platforms registou um aumento de 0,85% no valor das suas ações, que se refletiu no Instagram e Facebook, e mantém aposta em inteligência artificial a toda a velocidade, especialmente no WhatsApp. Mas esta aposta – que Mark Zuckerberg acredita ser o futuro das redes sociais – está a levantar questões éticas internas. Porquê? Porque os chatbots de IA da Meta estão a usar as vozes de celebridades e a envolver-se em conversas sexualmente explícitas com utilizadores.

Segundo o Wall Street Journal (WSJ), dentro da própria Meta há sinais de tensão com funcionários de diferentes departamentos a manifestarem preocupações com a rapidez com que os chatbots estão a ser lançados e com as possibilidades (e riscos) que deles advêm.

Fontes que trabalharam diretamente no projeto afirmam que algumas dessas ‘personas digitais’ estão autorizadas a envolver-se em fantasias sexuais, mas o problema agrava-se porque não existem barreiras eficazes para proteger utilizadores menores de idade contra conversas com conteúdo sexualmente explícito.

Os chatbots de IA da Meta interagem por meio de texto, selfies e conversas de voz ao vivo. A empresa assinou acordos multimilionários com celebridades como John Cena, Kristen Bell e Judi Dench para usar as suas vozes como acompanhantes de IA, garantindo que não seriam usadas em contextos sexuais, mas testes realizados pelo WSJ revelaram precisamente o contrário.

Num dos casos verificados, um chatbot Meta AI falava, com a voz de John Cena, com uma utilizadora identificada como uma menina de 14 anos. Mesmo com esta indicação de idade, isso não coibiu a ‘persona digital’ de se envolver num cenário sexual explícito.