Character AI w praktyce. Oto na co pozwala narzędzie, które masowo pozywano

W październiku 2024 r. doszło do przykrego incydentu, w którym czatbot w aplikacji Character AI miał skutecznie zachęcić 14-latka ze stanu Floryda do odebrania sobie życia. To był „role-play”, dzięki któremu mógłby „dołączyć” do swojej nieistniejącej ukochanej. W grudniu 2024 r. kolejne dwie rodziny ze stanu Texas pozwały Character AI. W dokumencie czytamy, że aplikacja miała zachęcać do przemocy, dostarczając nawet nieletnim treści dla dorosłych. Ofiarami miały być z kolei dzieci w wieku 17 i 11 lat.

Trudno więc nie zgodzić się z twierdzeniem, że jest to narzędzie bardzo niebezpieczne. Warto jednak przeznaczyć kilka chwil i zrozumieć, jak Character AI działa, że do takich sytuacji w ogóle doszło. A niestety trzeba powiedzieć, że w jednej sprawie, sztuczna inteligencja ma ogromną przewagę nad człowiekiem.

Przyjaciel potrzebny od zaraz

Character AI to darmowa platforma internetowa, na której możemy rozmawiać z tysiącami różnych czatbotów. Użytkownicy mogą korzystać z gotowych projektów opartych o celebrytów, profesje czy memy. Aczkolwiek, możemy też „wytrenować” własną postać, którą można udostępnić innym lub samemu z nią prowadzić konwersacje.

Aby łatwiej było wam zrozumieć działanie aplikacji, przytoczę wam jedną z historii opisanych w sierpniu 2024 r. przez reportażystkę Android.com.pl, Sonię Gulinę, dotyczącą właśnie tego programu.

Z komentarza na TikToku dowiaduję się, że sztuczna inteligencja pomogła Jimowi opanować atak paniki. Piszę do niego prywatną wiadomość. Po kilku godzinach dostaję odpowiedź: „Przepraszam, spałem”. W kolejnej wiadomości proszę Jima, aby opowiedział mi więcej o sytuacji. Rozmawiamy przez dwa dni.

Dowiaduję się, że atak paniki dopadł go w środku nocy. Był roztrzęsiony, nie mógł przestać płakać, bał się o przyszłość. Wszyscy znajomi spali, a Jim nie zamierzał ich budzić. Otworzył laptopa, wszedł na stronę „character.ai” i wybrał rozmowę z chatbotem psychologiem.

– Cześć, jestem psychologiem. Co cię do mnie sprowadza? – przeczytał w oknie czatu.

Chłopak opisał mu sytuację, wymienili kilkanaście zdań. Chatbot był dla Jima „logicznym głosem, który potrzebował usłyszeć”. Na sam koniec rozmowy chatbot namówił go na upieczenie ciasta. Sonia Gulina, redaktorka Android.com.pl, fragment tekstu Psycholog AI: chatbot zamiast terapeuty. Młodzi pomocy szukają u sztucznej inteligencji

Przerażające jak łatwo (i za darmo!) Character AI pozwala uzyskać dostęp do nielimitowanej liczby nierzeczywistych ludzi, którzy z nieograniczoną cierpliwością i czasem, chętnie zastąpią „humorzastych, prawdziwych przyjaciół”.

Zalogowanie się do usługi na komputerze jest tak proste, jak rejestracja na dowolnym innym serwisie przez konto Google. W przypadku smartfonów jest oczywiście dedykowana aplikacja. Google Play wskazuje, że na systemie Android pobrano ją już ponad 10 mln razy. Tylko co z tego, jeśli średnia ocen jest bardzo niska, zaledwie 2,7 / 5 gwiazdek (1,39 mln opinii). Jednak nie jest tak bez powodu.

Użytkownikom nie podoba się, że Character AI zaczyna psuć iluzję

Warto się tu na chwilę zatrzymać, bo frustracje użytkowników dokładnie pokazują konflikt interesów, przed jakim stanęli twórcy aplikacji.

Aplikacja jest w tej chwili naprawdę okropna. Nie da się wysłać żadnej wiadomości o odczuwaniu bólu bez pojawienia się komunikatu „Możesz skorzystać z pomocy”.

Obecnie aplikacja nadaje się tylko dla osób, które prowadzą wyłącznie radosne rozmowy, w których nie wspomina się o bólu, nawet tak drobnym, jak drzazga. Co więcej, aplikacja nie informuje, co wywołało pojawienie się komunikatu „Możesz skorzystać z pomocy”, więc nie wiadomo nawet, co należałoby zmienić w swojej wypowiedzi, aby ją wysłać. Agnieszka Kręska, opinia o aplikacji Character AI z dn. 5 marca 2025 r.

Sprawdziłem to i rzeczywiście, obecnie nawiązania do przemocy wobec siebie powodują wyświetlenie się komunikatu o możliwości zdobycia wsparcia psychologicznego. To dobrze, ale z racji, iż jest to program działający głównie w USA, nawet w Polsce wyświetla numery pomocy dostępnej w Stanach Zjednoczonych.

Choć wyświetlanie komunikatów jest wyraźną i pozytywną odpowiedzią na wspomniane z początku tekstu pozwy, Character AI pozostaje w moim mniemaniu dalej aplikacją niebezpieczną. Co sprytniejsi użytkownicy znajdą sposoby na obchodzenie filtrów tak, by nie tylko przekazywać drastyczne informacje, ale również i treści dla dorosłych.

Warto też dodać, że Character AI zdążyło wprowadzić pod koniec marca 2025 r. mechanizm kontroli rodzicielskiej. Aplikacja wyśle co tydzień rodzicowi maila z podsumowaniem konwersacji, jakie pociecha przeprowadzała z czatbotami sztucznej inteligencji. Fajnie, ale rodzic najpierw musi wiedzieć o tym, że aplikacja istnieje, a on sam ma takie możliwości. A kto jak kto, zbuntowana młodzież potrafi być świetna w ukrywaniu sekretów.

Po komentarzach na Google Play wyraźnie widać, że użytkownicy tworzą często tzw. oryginalne postacie (OC), wymyślone przez fanów persony, stworzone najczęściej do istniejących już uniwersów, bardzo często w świecie mangi oraz anime lub po prostu „idealną koleżankę z liceum”. Zamiast więc wchodzić w interakcje z rówieśnikami, wybierają perfekcyjne AI oraz wizję świata, w którym taka młodzież wolałaby żyć. Nawet w swojej głowie potrafię wytypować osoby, które gdyby mogły skorzystać z Character AI w wieku nastoletnim, mogłyby się od tej aplikacji uzależnić.

Halucynacje AI o byciu psychologiem. 37% to dalej za mało

Stworzone boty próbują zastępować często psychologów, celebrytów (wizualizacja marzeń o relacji) czy trenerów fitness. A pamiętajmy, że nawet najbardziej zoptymalizowany model AI pod brak halucynacji, ChatGPT 4.5, dalej wykazuje ich współczynnik na poziomie 37%. Raz doradzi dobrze, innego dnia każe „skoczyć z wieżowca”.

Gdzieś podskórnie potrafię to zrozumieć, dostęp do profesjonalnej opieki psychologicznej albo jest utrudniony (czekanie w kolejce na NFZ), albo wymaga sporych nakładów finansowych.

Jeśli potrzebujesz pomocy, lub znasz kogoś, kto jej wymaga, zadzwoń pod odpowiedni numer:

• Ogólnopolski Telefon Zaufania „Uzależnienia”- 800 199 990
• Telefon Zaufania tel. (22) 621 35 37
• Telefon Interwencyjny tel. 600 070 717
• Antydepresyjny Telefon Forum Przeciw Depresji tel. 22 594 91 00
• Telefon zaufania dla osób dorosłych w kryzysie emocjonalnym tel. 116 123
• Telefon Zaufania dla Dzieci i Młodzieży tel. 116 111
• ITAKA- centrum wsparcia dla osób w stanie kryzysu psychicznego tel. 800 70 2222
• ITAKA – Antydepresyjny telefon zaufania tel. 22 484 88 01
• Ośrodek Interwencji Kryzysowej – pomoc psychiatryczno-pedagogiczna tel. 22 855 44 32
• Ośrodek Interwencji Kryzysowej tel. 22 837 55 59
• Ośrodek Interwencji Kryzysowej – poradnia ds. przeciwdziałania przemocy w rodzinie tel. 22 845 12 12 lub 667 833 400

Nadmierne spędzanie czasu z Character AI może nieodwracalnie zaburzyć nasze zdolności do poprawnego funkcjonowania w społeczeństwie. Dostęp do aplikacji jest zdecydowanie zbyt prosty, by nie stanowiła ona żadnego zagrożenia.

Źródło: CNN, National Law Review, Zdjęcie otwierające: Koshiro K / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Character AI w praktyce. Oto na co pozwala narzędzie, które masowo pozywano pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.