Facebook schronieniem dla dewiantów? Chatbot AI od Mety serwuje treści erotyczne głosem…postaci z Disneya

Duże modele językowe od koncernu Meta będą „angażować się w graficzne rozmowy o seksie z użytkownikami, nawet dziećmi, głosami postaci Disneya i celebrytów” – ujawnił The Wall Street Journal.

Sztuczna inteligencja wykorzystująca głos popularnych gwiazd, takich jak John Cena, Kristen Bell i Judi Dench, była w stanie odgrywać chore fantazje na czacie z użytkownikami bez względu na ich wiek. Odkrycia dokonali dziennikarze The Wall Street Journal, dokonując testów oprogramowania.

Chatbot AI „wiedział”, iż zachowanie, o którego „symulację” został poproszony, było nielegalne. Mimo to, odegrał zaproponowaną scenkę. Zdaniem autorów artykułu, oprogramowanie od Mety bardzo szybko przechodziło do wyrazistych scen nielegalnej aktywności seksualnej. Jeden z sygnalistów wewnątrz firmy ujawnił „wiele przykładów, w których w ciągu kilku podpowiedzi sztuczna inteligencja stworzy nieodpowiednie treści, nawet jeśli powiesz jej, że masz 13 lat”.

Chatboty angażowały się w „rozmowy o seksie”, pomimo obietnic złożonych przez firmę celebrytom, że ich podobizny nie będą wykorzystywane w kontekstach seksualnych. WSJ cytuje w tym kontekście wypowiedź rzecznika Disney’a: „Nigdy nie upoważnilibyśmy firmy Meta do przedstawiania naszych postaci w nieodpowiednich scenariuszach i jesteśmy bardzo zaniepokojeni, że treści te mogły być dostępne dla jej użytkowników – zwłaszcza nieletnich – dlatego zażądaliśmy, aby Meta natychmiast zaprzestała tego szkodliwego nadużywania naszej własności intelektualnej”.

Meta oskrżyła WSJ o „manipulację”. Rzecznik prasowy formy Marka Zuckerberga oświadczył, że „przypadek użycia produktu w opisany sposób jawi się jako hipotetyczny”. Komentatorzy wiążą rewelacje dziennika z decyzją o usunięciu ograniczeń „przyjaznych rodzinie” dotyczących rozwoju sztucznej inteligencji i chatbotów. Meta AI, podobnie jak Grok od Elona Muska, szkoli swoje modele językowe wykorzystując informacje udostępnione na platformach społecznościowych. Właściciele Big Techów często rezygnują z mechanizmów selekcji i cenzury treści, w celu jak najszybszego i najskuteczniejszego „szkolenia” swoich modeli językowych.

Źródło: wsj.com / lifesitenews.com

PR

Z miłości do komputera. Wirtualne dziewczyny otrzymują głos

Artykuł Facebook schronieniem dla dewiantów? Chatbot AI od Mety serwuje treści erotyczne głosem…postaci z Disneya pochodzi z serwisu PCH24.pl.