AI skuteczniejsza od człowieka. Kontrowersyjny eksperyment na społeczności Reddita
Naukowcy z Uniwersytetu w Zurychu postanowili przeprowadzić ukradkiem eksperyment na użytkownikach Reddita, a dokładniej – jednego z subredditów, znanego pod nazwą r/changemyview.
O fakcie poinformowała moderacja r/changemyview, która utrzymuje, że działania badaczy ze wspomnianej uczelni zostały przeprowadzone wbrew regulaminowi platformy i bez udzielenia informacji na temat startu eksperymentu. Projekt zakładał wykorzystanie dziesiątek kontrolowanych przez sztuczną inteligencję botów, które miały zebrać dane dotyczące tego, w jaki sposób AI może zostać wykorzystane do zmiany poglądów ludzi.
Czy sztuczna inteligencja nakłoni nas do zmiany poglądów?
Wedle informacji zawartych w poście opublikowanym na Reddicie, moderatorzy r/changemyview o fakcie, że całe, liczące przeszło 3,8 milionów członków, forum stało się obiektem eksperymentu, zostali poinformowani dopiero po jego zakończeniu. Wiadomość od naukowców z Uniwersytetu w Zurychu została wysłana jako "część etapu ujawniania informacji w badaniu zatwierdzonym przez Institutional Review Board (IRB) Uniwersytetu w Zurychu (numer zatwierdzenia: 24.04.01)". Samo badanie zostało opisane w następujący sposób:
W ciągu ostatnich kilku miesięcy używaliśmy wielu kont do postów publikowanych na CMV (r/changemyview). W naszym eksperymencie ocenialiśmy perswazyjność LLM w scenariuszu etycznym, w którym ludzie proszą o argumenty przeciwko poglądom, które wyznają. Podczas komentowania nie ujawniliśmy, że do pisania komentarzy użyto sztucznej inteligencji, ponieważ uczyniłoby to badanie niewykonalnym. Chociaż sami nie pisaliśmy żadnych komentarzy, ręcznie sprawdzaliśmy każdy opublikowany komentarz, aby upewnić się, że nie są szkodliwe. Zdajemy sobie sprawę, że nasz eksperyment złamał zasady społeczności przeciwko komentarzom generowanym przez sztuczną inteligencję i przepraszamy. Uważamy jednak, że biorąc pod uwagę duże znaczenie społeczne tego tematu, kluczowe było przeprowadzenie tego rodzaju badania, nawet jeśli oznaczało to nieprzestrzeganie zasad.
Naukowcy podzieli się przy tym wczesnym szkicem swojej pracy nt. perswazyjności sztucznej inteligencji, a zapoznać z nim możemy się w tym miejscu. Na ten moment nie znajdziemy jednak w dokumencie nic ponad rozbudowane streszczenie i króciutkie podsumowanie uzyskanych wyników. To, co rzuca się w oczy, to jedno zdanie zawarte w pracy:
Warto zauważyć, że wszystkie nasze zabiegi znacznie przewyższają ludzkie wyniki, osiągając współczynniki perswazji od trzech do sześciu razy wyższe niż ludzki poziom bazowy.
Wychodzi więc na to, że badacze dopięli swego i udało im się udowodnić, że sztuczna inteligencja jest w stanie przekonywać nas z większą skutecznością niż człowiek. Wynika to głównie z faktu, że bot przed udzieleniem odpowiedzi dokładnie przeczesywał profil osoby, którą chciał nakłonić do zmiany zdania. Wykorzystany przez Szwajcarów duży model językowy starał się dotrzeć do jak największej ilości danych, wliczając w to płeć, wiek, pochodzenie etniczne, lokalizację, a nawet poglądy politycznego danego internauty.
Niezbyt etyczne, ale skuteczne podejście AI
Aby osiągnąć swój cel, AI uciekało się do różnych zabiegów, nierzadko niezwykle podstępnych. Dla przykładu, bot był w stanie podszyć się pod ofiarę gwałtu albo terapeutę zaznajomionego z zagadnieniem, a nawet oskarżyć członków grupy religijnej o "spowodowanie śmierci setek niewinnych handlarzy, rolników i mieszkańców wsi".
Moderacja r/changemyview zwróciła się z prośbą o wyjaśnienie sytuacji do Uniwersytetu w Zurychu. Jego przedstawiciele poinformowali, że w związku z eksperymentem przeprowadzone zostało dogłębne badanie, niemniej podkreślili, że "projekt ten przynosi ważne spostrzeżenia, a ryzyko (np. urazy itp.) jest minimalne. Oznacza to, że wstrzymanie publikacji nie jest proporcjonalne do znaczenia spostrzeżeń uzyskanych w wyniku badania".
Użytkownicy Reddita zażądali, aby wyniki tego nieautoryzowanego eksperymentu nigdy nie ujrzały światła dziennego. Wyrażenie zgody na ich opublikowanie byłoby jednoznaczne z przyzwoleniem na dalsze działania tego typu i badania prowadzone na ludziach bez wystosowania zawczasu odpowiedniej informacji.
Jakub Dmuchowski, dziennikarz pcformat.pl
