Microsoft walczy z uwodzeniem nieletnich na czatach

Przestępcy seksualni nawiązują kontakt z nieletnimi między innymi poprzez komunikatory i czaty dostępne w grach internetowych. Dlatego też zautomatyzowany system opracowany przez Microsoft – nazwany Projekt Artemis – ma na celu poszukiwanie wzorców komunikacji (słów kluczowych i wyrażeń) wykorzystywanych przez uwodzicieli do manipulowania dziećmi. W tym celu analizowane będą także historie rozmów. W razie wykrycia budzącego podejrzenia wzorca system zgłosi rozmowę do moderatora, który zdecyduje, czy należy zawiadomić organy ścigania.

Projekt Artemis został stworzony przez Microsoft we współpracy z autorami platformy gier dla dzieci Roblox, firmą Meet Group, która tworzy aplikacje randkowe (Skout, MeetMe, Lovoo), spółką Kik oraz technologiczną organizacją non-profit Thorn, specjalizującą się w tworzeniu narzędzi zapobiegających seksualnemu wykorzystywaniu nieletnich. Ich kooperacja zaczęła się w listopadzie 2018 roku podczas hakatonu Microsoftu poświęconego bezpieczeństwu dzieci w internecie.

Zespołem pracującym nad narzędziem Artemis kierował dr Hany Farid, który w 2009 roku współpracował z Microsoftem i Dartmouth College przy opracowywaniu PhotoDNA, bezpłatnego narzędzia służącego do wykrywania i zgłaszania zdjęć przedstawiających seksualne wykorzystywanie dzieci. Korzysta z niego obecnie ponad 150 firm i organizacji na świecie.

Projekt Artemis testowany będzie na Xbox Live i czacie Skype'a. Od dziś (10 stycznia) ma być licencjonowany bezpłatnie – za pośrednictwem organizacji Thorn – firmom udostępniającym funkcje czatu.

Jak podkreśliła na blogu Courtney Gregoire, dyrektor ds. bezpieczeństwa cyfrowego w firmie Microsoft, wykrywanie przypadków szukania ofiar potencjalnego wykorzystania seksualnego w internecie to poważny problem, z którymi firma chce się zmierzyć. Projekt Artemis to kolejny krok w kierunku zwalczania przemocy seksualnej dotykającej dzieci, ale nie jest to metoda skończona. Firma zamierza nadal współpracować z podmiotami komercyjnymi i organizacjami technologicznymi w celu ciągłego doskonalenia opracowanego narzędzia. Chce zgromadzić wokół tego projektu wiele zainteresowanych stron, w tym także osoby, które miały bezpośrednio do czynienia z takimi przestępstwami.