Zaproponowane europejskie prawo SI nie chroni praw człowieka

Wczoraj (30 listopada) opublikowane zostało wezwanie do wprowadzenia zmian w proponowanym prawie unijnym regulującym wykorzystywanie systemów sztucznej inteligencji (SI). Podpisało się pod nim 120 organizacji skoncentrowanych na ochronie praw obywatelskich. Ich zdaniem zaproponowany w kwietniu projekt regulacji nie zapewnia ochrony praw podstawowych.

Organizacje uznały, że zaproponowany kształt regulacji unijnej nie ochroni obywateli przed szkodami powodowanymi przez sztuczną inteligencję, m.in. takimi jak dyskryminacja i stronniczość. Wezwały Komisję Europejską (KE) do wprowadzenia zmian uwzględniających dziewięć zdefiniowanych w liście celów.

Według założeń KE rozporządzenie w sprawie SI miało określać ramy dla funkcjonowania „wiarygodnej" i „zorientowanej na człowieka" sztucznej inteligencji. Jednak zdaniem organizacji obywatelskich przedstawiony w kwietniu projekt raczej stworzy ramy umożliwiające dokonywanie nadużyć z wykorzystaniem danych osobowych.

Wskazują przede wszystkim na brak niezbędnych mechanizmów kontroli i zbyt sztywną kategoryzację zagrożeń związanych ze sztuczną inteligencją. W takiej formie nie będzie ona w stanie nadążyć za szybko rozwijającymi się technologiami SI.

Wśród zdefiniowanych obszarów, które powinny być uwzględnione w przyszłej regulacji, organizacje wskazują m.in. zmiany w określeniu zabronionych przypadków użycia SI, umożliwienie aktualizacji wykazu przypadków, w których użycie SI jest niedopuszczalne bądź zabronione, oraz chcą rozszerzyć obecnie ustaloną listę zastosowań tzw. wysokiego ryzyka.

Szczegółową listę postulatów organizacji społecznych można zobaczyć tutaj.

Pismo zostało opracowane przez: European Digital Rights (EDRi), Access Now, Fundację Panoptykon, epicenter.works, AlgorithmWatch, Europejskie Forum Niepełnosprawności (EDF), Bits of Freedom, Fair Trials, PICUM, oraz ANEC. Podpisało ją 120 organizacji działających w Europie i poza Starym Kontynentem.