YouTube: zawodny mechanizm rekomendacji
Mozilla publikuje wyniki badań pokazujących, że w portalu z materiałami wideo wciąż bardzo często polecane są szkodliwe filmy.
Deklaracje i rzeczywistość
Przedstawiciele YouTube'a stale podkreślają, że stosowany w portalu mechanizm rekomendacji filmów jest wciąż udoskonalany, a system sztucznej inteligencji bazujący na uczeniu maszynowym działa coraz lepiej. W rezultacie polecane materiały coraz bardziej odpowiadają upodobaniom internautów.
Crowdsourcingowe śledztwo
Fundacja Mozilla postanowiła sprawdzić, czy algorytm wykorzystywany w celu wskazania użytkownikom odpowiednich klipów rzeczywiście się sprawdza. W ubiegłym roku powstała przeznaczona dla przeglądarek Chrome i Firefox wtyczka Mozilla RegretsReporter. Korzystające z niej osoby mogą zgłaszać Mozilli te filmy, które zostały im polecone automatycznie przez YouTube'a, a których obejrzenia w rzeczywistości żałują. Raport taki zawiera również ścieżkę dojścia do klipu (listę wcześniej obejrzanych filmów).
W internecie opublikowano właśnie raport opracowany na podstawie informacji otrzymanych przez Mozillę za pośrednictwem RegretsReportera. W role kontrolerów wcieliło się 37 380 użytkowników portalu YouTube. Między lipcem ubiegłego a majem bieżącego roku zgłosili oni 3362 filmy błędnie polecone im przez mechanizm rekomendacji stosowany na platformie. Materiały pochodziły z 91 krajów.
Mozilla ocenia, że 12,2% zgłoszonych filmów naruszało zasady YouTube'a – albo nie powinny w ogóle znaleźć się w portalu, albo nie powinny być aktywnie polecane. Wśród oprotestowanych kipów największa część została sklasyfikowana jako dezinformacja, przemoc fałszywe wiadomości o pandemii (zastosowano w tym przypadku osobną kategorie), mowa nienawiści i spam (lub oszustwa), zagrożenie dla bezpieczeństwo dzieci, nękanie i cybernękanie oraz znęcanie się nad zwierzętami.
W 43,3% przypadków zalecenie nie było w ogóle związane z poprzednio obejrzanymi filmami.
Prawie 200 zgłoszonych filmów (około 9%) zostało usuniętych z serwisu. Wcześniej jednak wyświetlono je ponad 160 milionów razy.
Odsetek oprotestowanych filmów był o 60% wyższy w krajach, w których angielski nie jest językiem podstawowym. Dotyczyło to zwłaszcza Brazylii, Francji i Niemiec.
Przedstawiciele Fundacji Mozilla zgłosili kilka propozycji usprawnienia algorytmu polecania treści. Starszy dyrektor Brandy Geurkink stwierdził: „Mozilla nie chce po prostu zdiagnozować problemu z rekomendacjami YouTube – chcemy go rozwiązać. Zdroworozsądkowe przepisy dotyczące przejrzystości, lepszy nadzór i presja konsumentów mogą pomóc w opanowaniu tego algorytmu".
