Wzór, który oszukuje sztuczną inteligencję
Głębokie sieci neuronowe nie są w stanie zidentyfikować człowieka, który ma na ubraniu specyficzny wzór.
Stań się niewidzialny.
Umiejętność znikania na zawołanie to marzenie wielu osób. Teraz bycie niewidzialnym jest możliwe – ale tylko dla "oczu" sztucznej inteligencji. Badacze z firmy IBM oraz Uniwersytetu Technologii w Massachusetts (MIT) podjęli się opracowania wzoru, który po naniesieniu na odzież chroni noszącego przed głębokimi sieciami neuronowymi. Nie są one wówczas w stanie rozpoznać, że w zasięgu ich działania pojawił się człowiek.
Głębokie sieci neuronowe
Sztuczna inteligencja (SI) wykorzystywana jest na wiele sposobów. Głębokie sieci neuronowe często stosuje się do rozpoznawania i klasyfikacji obrazów, dźwięków, kształtów i wzorów. Specjaliści trenują odpowiedzialne za to algorytmy na milionach przykładów i testują zdolności sieci do momentu, aż uzyskają oczekiwane rezultaty.
Wiedza o tym, jak działa sztuczna inteligencja, pozwala na jej... oszukanie. Badacze z IBM i MIT pracujący z sieciami odpowiedzialnymi za rozpoznawanie i katalogowanie kształtów postanowili sprawdzić, jakie kroki muszą wykonać, aby "pomieszać się w głowie" SI. Dotychczas prawidłowo rozpoznająca sylwetki osób, przedmiotów i zwierząt techhnologia miała zostać oszukana, tak by nie zorientowała się, że dany kształt to człowiek.
Do zrealizowania założenia naukowcy opracowali specjalny wzór. Kierowali się przy tym działaniami odwrotnymi do realizowanych w celu trenowania sztucznej inteligencji. Pozmieniane zostały dane konkretnych pikseli, na których uczono sieci neuronowe. Zmienione wartości miały zdezorientować SI.
Badacze udowodnili, że wystarczy kilka specyficznie rozmieszczonym naklejek na ubraniu, aby głębokie sieci neuronowe zostały oszukane i nie rozpoznały sylwetki ludzkiej. W ten sposób, jak twierdzą naukowcy, można obejść niektóre zabezpieczenia i tylko kwestią czasu jest opracowanie przez przestępców swoich metod bycia "niewidzialnym" dla zabezpieczeń wykorzystujących SI.
Koszulka z opracowanym przez badaczy wzorem sprawiała, że ubrana w nią osoba pojawiająca się w zasięgu działania specyficznej sieci neuronowej aż w 60% czasu nie była rozpoznawana jako człowiek.
