Wyczyścić internet

Do sieci społecznościowych loguje się ponad trzy miliardy osób na całym świecie. Co minutę na Facebooka wrzucają 2,5 miliona postów, na YouTubie umieszczają pół tysiąca godzin materiału filmowego, a na Twitterze publikują 450 tysięcy tweetów. Rzadko kiedy myślimy, jak wyglądałyby portale społecznościowe, gdyby wszystko, co inni chcieli na nie wrzucić rzeczywiście się tam znalazło. Rzadko kiedy zastanawiamy się też, jakie jest prawdziwe oblicze zarządców wielkich platform. Niemieccy dokumentaliści Hans Block i Moritz Riesewieck pomyśleli i nakręcili o tym film dokumentalny „Czyściciele internetu” (The Cleaners), który obnaża mroczną stronę Internetu.

– Naszym celem jest stworzenie globalnej społeczności, umożliwienie każdej osobie na świecie podzielenia się z kimkolwiek czymkolwiek chce – deklaruje w świetle jupiterów współtwórca Facebooka Mark Zuckerberg. W tym samym czasie w ciemnym boksie biurowca w filipińskiej stolicy Manili, młoda dziewczyna filtruje przesuwający się po ekranie strumień zdjęć, filmów i postów. Ma do wyboru dwa klawisze: „ignoruj” – wtedy konkretna treść ujrzy światło dzienne. „Usuń” – to, czym ktoś chciał się podzielić „ze wszystkimi”, zniknie na zawsze. Ważna decyzja. Filipinka podejmuje ją 25 tysięcy razy dziennie, na jeden obraz poświęcając niewiele ponad sekundę. Przed jej oczami przesuwają się zdjęcia ukazujące akty pedofilii, pornografię dziecięcą, sceny seksualnej przemocy czy egzotyczne przedmioty wkładane w otwory ludzkiego ciała. I tak przez osiem godzin. Do pozbycia się wszystkiego, co nie spełnia standardów platform społecznościowych służy jeden przycisk. Delete.

Moderatorzy treści mediów społecznościowych, bo taką elegancką nazwę nadano ludziom od sprzątania internetowego brudu, pracują w firmach podnajmowanych przez korporacje z Doliny Krzemowej. Są one zlokalizowane na Filipinach czy w Indiach, bo w tych właśnie krajach jest duży odsetek bezrobotnych młodych osób, czyli taniej siły roboczej. Dla wielu jedyną możliwością pracy jest segregacja śmieci na wysypiskach za psie pieniądze. Więc segregują śmieci – tyle że w sieci. Wbrew pozorom zjawisko to nie jest wcale marginalne. W „Czyścicielach…” Collin Stretch, główny prawnik Facebooka, mówi o 10 tysiącach osób zatrudnionych w służbie „bezpieczeństwa informacji”. Sarah T. Roberts, badaczka nowych mediów z Uniwersytetu Kalifornijskiego, wspomina o „lekko licząc dziesiątkach tysięcy”. Inne źródła podają, że dla gigantów IT może pracować nawet 100 tysięcy Filipińczyków. Niemieccy reżyserzy dotarli do pięciorga, którzy zdecydowali się opowiedzieć swoje historie. Nie było to łatwe, bo Google, Facebook i inne tego typu firmy nie przyznają się do związków ze „sprzątającymi” podwykonawcami, a samych moderatorów zniechęcają do rozmów klauzule poufności zawarte w umowach i lęk przed utratą jedynego źródła utrzymania dla swoich rodzin. Wcześniej o procederze korporacji wykorzystujących siłę roboczą z krajów trzeciego świat do moderacji treści pisali dziennikarze gazet „The Guardian” i „The Wall Street Journal” oraz Sarah T. Roberts, która spędziła osiem lat dokumentując, w jaki sposób firmy z branży mediów społecznościowych cenzurują wyświetlane przez użytkowników treści, wykorzystując do tego zadania tanią siłę roboczą i naruszając nie tylko swobodę wypowiedzi internautów, ale i zdrowie psychiczne oraz fizyczne „przesiewaczy”.

Moderowanie treści na Facebooku to wielowarstwowe sito, którego gęsto utkane oczka mają oddzielić treści akceptowalne i niełamiące regulaminu od tych, które są nielegalne, szkodliwe lub obraźliwe. Pierwszą warstwę ochrony stanowią algorytmy, które odsiewają to, co nie pasuje do określonego wzorca. Sztuczna inteligencja jest w stanie rozpoznać kształt ludzkich genitaliów, krew, nagie ciało czy wulgarne słowa, jednak bez oceny intencji nadawcy czy kontekstu – politycznego, społecznego lub artystycznego – nie jest w stanie określić, czy przekaz ten narusza jakiekolwiek granice.

Na drugą linię obrony pracujemy my sami – członkowie facebookowego plemienia – za każdym razem, gdy zauważając czyjś niepokojący wpis lub zdjęcie, klikamy przycisk „zgłaszam nadużycie”. Takich sygnałów potencjalnie kontrowersyjnej treści Facebook odnotowuje dziennie ponad milion.

I wreszcie sito trzecie – cyfrowi sprzątacze. To oni muszą poradzić sobie z brudem, który pozostał po przefiltrowaniu przez dwie wcześniejsze warstwy. Na decyzję o usunięciu fotografii kobiecych piersi, brutalnych aktów terrorystycznych, tekstów o seksie oralnym czy oddzielenie znieważenia od uprawnionej satyry mają kilka sekund. Mogą się pomylić trzy razy w ciągu miesiąca. A o to nietrudno, bo cyfrowych cenzorów na Filipinach czy w Indiach od nadawców treści publikowanych w Turcji, Stanach Zjednoczonych czy Polsce dzielą nie tylko tysiące kilometrów, ale też różnice kulturowe, wiedza i doświadczenia. Czasem bywa to dystans nie do pokonania, co świetnie ilustruje głośna sprawa usunięcia z Facebooka portretu nagiego Donalda Trumpa z małym penisem, namalowanego przez amerykańską artystkę Illmę Gore. – Moja sztuka jest tylko odwzorowaniem tematu. To nie jest rzeczywistość ani zdjęcie. Nie ma tu agresji ani seksualności – nie może się nadziwić Gore. W „Czyścicielach…” widzimy jak moderator przygląda się słynnemu zdjęciu PhanThi Kim Phuc, nagiej 9-letniej Wietnamki poparzonej napalmem. Fotografia, za którą Nick Ut zdobył nagrodę Pulitzera i World Press Photo stała się symbolem wojny w Wietnamie. Filipińczyk wie, że to ważne zdjęcie, ale musi kierować się wytycznymi. – A tu mamy małą dziewczynkę i genitalia – mówi. Delete.

O błąd nietrudno, zwłaszcza, że internetowe korporacje nie dbają o należyte przygotowanie swoich cenzorów. Są to osoby, które po prostu władają myszką i klawiaturą, a praca na 15. piętrze sterylnego wieżowca w Manili jest spełnieniem ich marzeń. Dziennikarze, którzy badali proceder na miejscu opowiadają, że zrekrutowani na ulicy Filipińczycy są wysyłani na kilkudniowe szkolenie, podczas którego dowiadują się, że zamiast analitykami danych staną się specjalistami od aktów samookaleczeń czy pornografii dziecięcej. Muszą przyswoić wiedzę o kilkudziesięciu grupach terrorystycznych osadzonych w różnych kontekstach kulturowych, wykorzystujących odmienną symbolikę i hasła. Nic więc dziwnego, że wielu z nich nie podoła temu zadaniu.

Nie radzą sobie też pod innym względem – emocjonalnym. Oglądanie przez osiem godzin dziennie toksycznych treści bez przygotowania ani pomocy terapeuty narusza zdrowie psychiczne, a nierzadko wywołuje objawy zespołu stresu pourazowego. Byli moderatorzy Facebooka, do których udało się dotrzeć dziennikarzom „The Wall Street Journal”, wspominają, że musieli oglądać zdjęcia ofiar wojny, które zostały pozbawione wnętrzności lub utonęły i dzieci w mundurach biorących udział w zabójstwach. Jeden z cenzorów usunął film przedstawiający kota wrzucanego do kuchenki mikrofalowej... W „Czyścicielach…” młoda Filipinka opowiada o tym, że po całym dniu przyglądania się penisom w różnych kolorach skóry, rozmiarach i wieku, obrazy te powracają do niej w snach. Ten przypadek i tak wydaje się najłagodniejszy. W filmie poznajemy historię zatrudnionego w specjalnej grupie weryfikującej nagrania samobójców, który przez wiele godzin dziennie patrzył, jak ktoś targa się na swoje życie. Aż któregoś dnia sam popełnił samobójstwo. To nie jest odosobniony przypadek, bo jak przyznają reżyserzy dokumentu po przeprowadzonym przez siebie śledztwie, wskaźnik samobójstw wśród moderatorów treści musi być znacznie wyższy niż w innych profesjach. Jedna z moderatorek powiedziała dziennikarzom amerykańskiego dziennika, że często jedynym sposobem radzenia sobie z obciążeniem psychicznym, z jakim codziennie mają do czynieniajej koledzy, jest rozładowywanie bardziej drastycznych postów czarnym poczuciem humoru. Pomaga na krótko – średni czas pracy w firmach moderujących treść to jedynie pół roku, wielu ma dość już po pierwszym dniu nowego zajęcia, inni wychodzą na lunch i już nie wracają.

Co jednak zaskakujące, równocześnie wielu moderatorów jest dumnych ze swojej pracy. – Zapobiegam wykorzystywaniu dzieci, rozpoznaję terroryzm, powstrzymuję dręczenie w sieci. Robimy wszystko, by platforma była bezpieczna dla wszystkich – mówi jeden z czyścicieli. Cena, jaką zapłaci za poczucie misji, przychodzi później.

Szorowanie internetu z treści, które uznano za nieodpowiednie, to nie tylko cenzura obyczajowa, ale i polityczna. Bo moderatorzy, zgodnie z instrukcjami zarządców platform społecznościowych, usuwają też treści niedozwolone w danym państwie, co w praktyce równa się niedopuszczaniu do głosu przeciwników politycznych. W „Czyścicielach…” pada przykład Turcji, która pod władzą Erdoğana jest pod szczególną kontrolą cenzorów. Za krytykę rządu można trafić do więzienia, więc wszelkie wpisy ukazujące prawdziwą sytuację w tym kraju są na tureckim Facebooku blokowane. Niemiecki dokument pozwala dostrzec ten niezwykły paradoks: oto firmy z Doliny Krzemowej, wyznające ideę globalnej społeczności i demokratycznego dzielenia się wszystkim, w imię zdobycia przyczółka na nowym rynku układają się z lokalnymi władzami, podkopując tym samym swoje własne ideały. Siła rażenia filmu Blocka i Riesewiecka oraz innych dziennikarskich świadectw polega też na tym, że oto uświadamiamy sobie, że opowieści o neutralnym, demokratycznym i wolnym internecie możemy włożyć między bajki. Ironiczny komentarz na ten temat napisało samo życie. Francuski trailer do „The Cleaners”, przygotowany przez telewizję ARTE, został usunięty przez Google’a z serwisu YouTube.

Niemiecki dokument, pokazywany podczas festiwalów Sundance oraz Millenium DocsAgainstGravity, wywołał gorące dyskusje na całym świecie, zwłaszcza tym internetowym. Wiele osób dopiero z tego filmu mogło się dowiedzieć, w jaki sposób portale społecznościowe przejmują kontrolę nad sferą publiczną. Wielu ta działalność się nie spodobała, niektórzy bardziej świadomie podchodzą do treści publikowanych w social media, inni ograniczyli w nich swój udział czy nawet skasowali konta. „W ciągu tych 88 wymagających minut »The Cleaners« udało się przekonać mnie – upartego, rozmiłowanego w swoim smartfonie millennialsa, który zawsze ślepo podążał za nowymi technologiami, że internet w jego obecnej formule może aktywnie zabijać wolny świat” – napisała Valerie Ettenhofer, blogerka z okolic San Francisco. „Czyściciele…” stawiają kilka niewygodnych i uwierających pytań, z których najbardziej uderza to: jak to możliwe, że kilka korporacji kontroluje globalny przepływ informacji? Gdzie przebiega cienka granica pomiędzy swobodą wypowiedzi a przemocą, kradzieżą własności intelektualnej, zastraszaniem czy mową nienawiści? Jak zadbać o prawa ludzi narażonych na oglądanie drastycznych treści po to, byśmy my mogli ich nie oglądać? Co dzieje się z nami – internetową społecznością, skoro tych treści jest coraz więcej? Postawienie tych i podobnych pytań to tylko wierzchołek góry lodowej, bo kwestia tego, kto i na jakich zasadach ustala reguły panujące w tym najpotężniejszym, bo liczącym ponad dwa miliardy mieszkańców wirtualnym państwie, jest dużo bardziej złożona. Oczywiście możemy tych pytań nie dostrzegać, skupiając się na legionach słodkich kotków i zabawnych memów. Tak jak filipińscy moderatorzy mamy wybór. Zawsze możemy kliknąć „delete”.

Moderowanie treści internetowych to zajęcie tak stare jak sam internet, bo osoby, które mają dostęp do narzędzi technicznych pozwalających na zarządzanie treścią oraz kontami użytkowników na poziomie wyższym niż oni sami, istniały już od czasów pierwszych sieci grup dyskusyjnych, stron WWW czy kanałów IRC-a. Jednak prawdziwy boom na tego rodzaju usługi zapoczątkował dopiero rozwój sieci społecznościowych. Choć profesja ta należy do najszybciej obecnie rosnących obszarów zatrudnienia w branży informatycznej, jest to też jednym z najgorzej płatnych zajęć w sektorze IT. Zarobki zależą od miejsca, z jakiego zajmujemy się filtrowaniem internetowych treści. Moderatorzy od najczarniejszej roboty, zatrudnieni przez firmy outsourcingowe na Filipinach zarabiają ok. 300 dolarów miesięcznie. Ich koledzy pracujący bezpośrednio w siedzibach Facebooka w Berlinie czy Warszawie mogą liczyć na ośmiokrotnie wyższe pensje, specjalistyczne szkolenia, wsparcie psychologiczne przez całą dobę, a od niedawna nawet – cieszyć się zaledwie czterogodzinnym limitem czasu pracy. Choć korporacje prześcigają się w pracach nad sztuczną inteligencją, która mogłaby zastąpić moderatorów w przeczesywaniu portali i odsiewaniu niestosownych treści, wszystko wskazuje na to, że jeszcze długo nie będzie to możliwe. Przez jakiś czas Facebook nazywał swoich cenzorów „honey badgers”. Określenie to jest o tyle mylące , że te małe zwierzęta z sawanny z zabawnymi nosami, nazywane pszczoło-jamnikami, wzbudzają wyłącznie pozytywne emocje, zaś praca moderatora stanowiącego żywą tarczą ochronną w walce z najciemniejszą stroną internetu, zabawna nie jest. To jeden z najtrudniejszych i najbardziej obciążających emocjonalnie zawodów związanych z nowymi technologiami.