Firma xAI została właśnie oskarżona o szkolenie modelu Grok przy użyciu materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM). Organy regulacyjne i sądy w Stanach Zjednoczonych nadal badają, jak daleko sięga ten problem, a to nawet nie początek tego rodzaju spraw związanych z platformą społecznościową Elona Muska. Kolejne doniesienia w sprawie zmuszają do zadania sobie pytania o to, kto odpowie za przekroczone w trenowaniu modeli językowych granice.
Do trenowania modelu Grok mogły zostać wykorzystane materiały przedstawiające wykorzystywanie seksualne dzieci
Jak podaje portal Ars Technica, w skardze złożonej w środę powódka znana jako Jane Doe wyjaśniła, że na początku XXI wieku, gdy była w wieku przedszkolnym, wielokrotnie padała ofiarą gwałtu ze strony dorosłych mężczyzn, którzy dopuszczali się tego czynu w celu stworzenia materiałów CSAM, które następnie sprzedawali pedofilom w Internecie. Od tego czasu zdjęcia Doe zostały zindeksowane przez organizacje takie jak National Center for Missing and Exploited Children (NCMEC) oraz Canadian Centre for Child Protection (CCCP).
Ze względu na własne bezpieczeństwo Doe zdecydowała się otrzymywać powiadomienia z Systemu Powiadamiania Ofiar Departamentu Sprawiedliwości Stanów Zjednoczonych za każdym razem, gdy może stać się ofiarą w ramach nowego śledztwa karnego. Chociaż do tej pory otrzymała niezliczoną już liczbę powiadomień, była zszokowana, gdy CCCP poinformowało ją, że zidentyfikowało na platformie xAI materiały przedstawiające dzieci w sytuacjach seksualnych (CSAM) wygenerowane przez sztuczną inteligencję, na których była przedstawiona. Wywołało to ponowną traumę u Doe, która w swojej skardze twierdzi, że na forach internetowych znaleziono wiadomości „między sprawcami rozmawiającymi o tworzeniu materiałów CSAM wygenerowanych przez sztuczną inteligencję, przedstawiających powódkę oraz inne znane, znalezione w podobnej sytuacji, dawne ofiary CSAM”.
Obecnie Doe obawia się, że platforma xAI nie tylko ułatwiła tworzenie kolejnych łamiących prawo obrazów przedstawiających najbardziej bolesny okres w jej życiu, ale także rzekomo przechowuje obrazy generowane przez model Grok i wykorzystuje te wyniki do dalszego szkolenia tego systemu. Z tego powodu uważa ona, że Grok został wyszkolony zarówno na początkowym zestawie obrazów, które prześladowały ją przez ponad 20 lat, jak i na nowszych obrazach wygenerowanych już przez sztuczną inteligencję.
Pozew może przyczynić się do realnych zmian w funkcjonowaniu platformy X
W proponowanym pozwie zbiorowym Doe dąży do położenia kresu szkodliwym treściom generowanym przez model Grok. Jeśli pozew zostanie zatwierdzony, grupa zbiorowa będzie reprezentować wszystkie ofiary, których zdjęcia z dzieciństwa zostały wykorzystane do stworzenia materiałów CSAM przez model sztucznej inteligencji firmy xAI.
W pozwie oskarża się firmę X o naruszenie federalnych przepisów dotyczących pornografii dziecięcej, a także ustawy Masha’s Law. Oba te akty prawne przyznają ofiarom CSAM prawo do wniesienia pozwu w sprawie produkcji, posiadania i dystrybucji takich materiałów. Adwokatka Doe – Margaret E. Mabie – zasugerowała w komunikacie prasowym, że firma xAI dopuściła się wszystkich trzech wymienionych wyżej przestępstw. Dalszy rozwój sprawy może zaowocować wprowadzeniem lepszych metod weryfikacji danych wykorzystywanych przez sztuczną inteligencję i wymusić na odpowiedzialnych za nie firmach wprowadzenie lepszych protokołów bezpieczeństwa. Nie sposób jednak pozbyć się wrażenia, że ta puszka Pandory została już otwarta na dobre.
0 komentarzy