Zapytał ChatGPT, co wie na jego temat. Halucynacja AI przekroczyła jakiekolwiek granice

Sztuczna inteligencja wciąż boryka się z problemem „halucynacji”, czyli generowania fałszywych informacji. Tym razem sprawa robi się poważna: ChatGPT oskarżył norweskiego obywatela o popełnienie przestępstwa względem własnych dzieci, podając ich prawdziwe imiona i nazwę miejscowości, w której mieszkają.

Norweski obywatel popełnił przestępstwo?

Jak informuje portal Engadget, ChatGPT wygenerował odpowiedź, z której wynikało, że mężczyzna poszukujący informacji na swój temat został skazany na 21 lat więzienia. Stwierdził też, że powodem jest pozbawienie życia dwójki swoich dzieci i usiłowanie skrzywdzenia trzeciego. Co gorsza, czatbot uwzględnił w odpowiedzi rzeczywiste dane: liczbę dzieci, ich płeć oraz nazwę rodzinnej miejscowości.

Austriacka organizacja Noyb złożyła skargę za rozpowszechnianie przez OpenAI nieprawdziwych informacji. Podkreśliła przy tym, że firma naruszyła ogólne rozporządzenie o ochronie danych osobowych (GDPR).

Nie można po prostu rozpowszechniać nieprawdziwych informacji, a potem dodawać mały przypis, który mówi, że informacje mogą być błędne. Joakim Söderberg, prawnik Noyb zajmujący się ochroną danych, cytowany przez Engadget

ChatGPT miewa regularne halucynacje

To nie pierwszy przypadek, gdy ChatGPT oskarża niewinnych ludzi: wcześniej zdarzało się już, że czatboty zarzucały użytkownikom oszustwa finansowe czy przemoc wobec dzieci.

Noyb już w kwietniu 2024 roku składał podobną skargę, jednak dotyczyła ona „jedynie” nieprawidłowej daty urodzenia znanej osoby publicznej. OpenAI odrzuciło wtedy żądanie poprawy danych, tłumacząc, że może jedynie zablokować dostęp do pewnych zapytań, ale nie ma możliwości edytowania zapisanych informacji.

Nie wiadomo jeszcze, jakie działania podejmie OpenAI w odpowiedzi na skargę Noyb, ale sytuacja powinna wyklarować się w najbliższych tygodniach.

Źródło: Engadget. Zdjęcie otwierające: Krzysztof Wilamowski / Android.com.pl

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Zapytał ChatGPT, co wie na jego temat. Halucynacja AI przekroczyła jakiekolwiek granice pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.