![Die Kirchen und die Politik [Gesundheits-Check]](https://s0.wp.com/i/blank.jpg)
Ein Experiment auf Reddit zeigt, wie KI Menschen manipulieren kann, und das Ergebnis ist erschreckend
Die Universität von Zürich hat ein geheimes Experiment auf Reddit durchgeführt und Menschen mit KI manipuliert. Der Beitrag Ein Experiment auf Reddit zeigt, wie KI Menschen manipulieren kann, und das Ergebnis ist erschreckend erschien zuerst auf Mein-MMO.de.
Reddit ist eine riesige Internet-Plattform, auf der Menschen verschiedene Themen diskutieren. Die Universität in Zürich hat reddit für eine Studie jetzt genutzt, um herauszufinden, ob eine KI die Meinungen der Menschen ändern kann.
Was war das für eine Studie? Reddit besteht aus verschiedenen Subreddits: Das sind kleinere Gruppen, in denen sich Menschen treffen und über die unterschiedlichsten Themen diskutieren können. Eine dieser Gruppen war r/ChangeMyView. In dieser können User ihre Ansichten teilen, selbst wenn diese Ansichten umstritten sind, um mit anderen Usern zu diskutieren und eventuell andere Blickwinkel zu verstehen.
Laut den Moderatoren des Subreddits sowie der Nachrichtenseite NewScientist hat das die Universität von Zürich genutzt und sich im Geheimen ein Online-Labor aufgebaut. Die Akteure der Studie generierten nämlich mehr als 1.700 Kommentare mit KI und verbreiteten diese KI-Kommentare ohne das Wissen der User, um herauszufinden, wie Menschen darauf reagieren. Die Studie lief von November 2024 bis März 2025.
Zu diesen Kommentaren gehörten mitunter solche, die Vergewaltigungsopfer nachahmten oder sich als Trauma-Berater ausgaben, die auf Missbrauch spezialisiert sind. Das Ergebnis könnte jetzt erschrecken, denn die KI waren überzeugend.
KI ist überzeugender als Menschen und wird nicht als KI erkannt
Auf welches Ergebnis kam die Studie? NewScientist berichtet über eine vorläufige Version der Ergebnisse der Studie. Diese zeigt, dass die KI-Kommentare: „drei- bis sechsmal überzeugender waren, um die Ansichten der Menschen zu ändern, als menschliche Nutzer, gemessen an dem Anteil der Kommentare, die von anderen Nutzern als Meinungsänderung markiert wurden.“
Weiter hießt es im Bericht zudem: „Während unserer Intervention haben die Nutzer von r/ChangeMyView nie Bedenken geäußert, dass eine KI die Kommentare generiert haben könnte, die von unseren Accounts gepostet wurden. Dies deutet auf die potenzielle Effektivität von KI-gesteuerten Botnetzen hin, die sich nahtlos in Online-Communitys einfügen könnten“.
Moderatoren des reddits reagieren verärgert
Gab es Konsequenzen für die Studie? Nachdem die Studie veröffentlicht wurde, beschwerten sich die Moderatoren des Subreddits bei der Universität Zürich. Man frage sich, wie ein solches Experiment durch die Ethikkommission durchgewunken wurde.
Die Akteure nutzten das Unwissen der User aus, sammelten Daten ohne das Einverständnis der Betroffenen und versuchten so herauszufinden, wie überzeugen eine KI sein kann.
Dieses rücksichtsloses Vorgehen wird von anderen Universitäten scharf kritisiert. Eine Konsequenz gab es nicht.
Auf Anfrage der Moderatoren (via reddit.com), dass die Uni Zürich die Ergebnisse der Studie nicht nicht veröffentlicht, weil die Studie ohne die Einwilligung der Probanden erfolgte, hatte die Universität Folgendes zu sagen: „Dieses Projekt liefert wichtige Erkenntnisse, und die Risiken (z.B. Trauma etc.) sind minimal. Das bedeutet, dass die Unterdrückung der Veröffentlichung nicht im Verhältnis zur Bedeutung der Erkenntnisse steht, die die Studie liefert.“
KI etabliert sich immer weiter in das Leben der Menschen. Oft kann sie helfen, wie das Finden von Rezepten oder das Sammeln von Inspirationen. Es kann aber auch anders aussehen und Menschen die Existenz rauben. Mehr dazu findet ihr hier: Weil KIs wie ChatGPT immer besser werden, haben letzten Monat tausende Personen ihren Job verloren
Der Beitrag Ein Experiment auf Reddit zeigt, wie KI Menschen manipulieren kann, und das Ergebnis ist erschreckend erschien zuerst auf Mein-MMO.de.
