Kontrowersyjne przycinanie

Algorytm Twittera wykorzystywany w celu przycinania zdjęć okazał się wadliwy. Zastosowanie go prowadzi czasem do wykluczenia z serwisu fotografii osób czarnoskórych. Choć przetestowano cały mechanizm pod kątem uprzedzeń rasowych i nie stwierdzono, by ich oznaki pojawiły się po użyciu kodu, uznano, że algorytm wymaga poprawy.

Twitter organizuje zatem... konkurs dla hakerów i ekspertów w dziedzinie programowania. Portal udostępnił już w sieci pełny kod algorytmu odpowiedzialnego za przycinanie zdjęć i oferuje wysokie nagrody dla każdego, kto zidentyfikuje miejsca, w których kod może kierować się uprzedzeniami. Nagrody pieniężne wynoszą od 500 do 3500 dolarów.

Zwalczyć rasizm

Inicjatywa jest częścią podejmowanych przez firmy technologiczne działań, które mają na celu zadbanie o to, by AI działała etycznie. Otwarciu konkursu towarzyszyła dyskusja na temat uprzedzeń, w której zwrócono uwagę m.in. na fakt, że AI może podejmować dyskryminujące decyzje (choćby przy przycinaniu zdjęcia) wobec osób z niższych warstw społecznych. Twitter będzie pracować nad uczynieniem algorytmu bardziej inkluzywnym.

fot. Pixabay