Krytyka systemu

Wielu krytyków wykorzystywania przez policję systemu rozpoznawania twarzy (facial recognition system) ostrzega przed jego niedoskonałościami. Ostatnio organizacja American Civil Liberties Union (ACLU), której celem jest ochrona praw obywatelskich gwarantowanych przez konstytucję, złożyła skargę przeciwko policji w Detroit za bezprawne aresztowanie spowodowane fałszywym dopasowaniem twarzy.

Aresztowany za zdjęcie

System DataWorks Plus nieprawidłowo dopasował nagrania z kamer do prawa jazdy Roberta Williamsa, oznaczając go jako podejrzanego w sprawie rozboju, do którego doszło w październiku 2018 r. W marcu 2019 r. do bazy danych systemu rozpoznawania twarzy stanu Michigan przesłano kadr z filmu. Technologia wygenerowała serię dopasowań, a wśród proponowanych fotografii było także zdjęcie Williamsa. Materiał ten pokazano strażnikowi ze sklepu (choć nie był on bezpośrednim świadkiem zdarzenia), który zidentyfikował Roberta jako winowajcę.

Organizacja ACLU, składając skargę, argumentowała, że system DataWorks nie potrafi odróżnić od siebie czarnoskórych osób. Według niej sprawa Williamsa jest pierwszym bezprawnym aresztowaniem w USA na podstawie systemu rozpoznawania twarzy.

Niedoskonały system

Od dawna już pojawiają się kontrowersje wokół technologii rozpoznawania twarzy i zarzuty o to, że jej algorytmy wykazują uprzedzenia rasowe. Tak pokazywały przeprowadzone testy. Okazało się, że system Amazonu nieprawidłowo dopasował 28 członków Kongresu Stanów Zjednoczonych do zdjęć, w tym 6 członków klubu Congressional Black Caucus, który złożony jest z większości afroamerykańskich członków Kongresu.

Rok później powtórzono test i tym razem odkryło, że system fałszywie dopasował 27 sportowców do zdjęć z policyjnej bazy.

fot. RyanMcGuire – Pixabay