Google zostało zmuszone do uśmiercenia świeżo wprowadzonej funkcji w usłudze Google Earth zaledwie dobę po jej premierze. Oparte na sztucznej inteligencji narzędzie, które miało służyć m.in. do tworzenia wizualizacji na bazie zdjęć satelitarnych, zostało masowo wykorzystane do generowania fałszywych obrazów przedstawiających zniszczenia powstałe wskutek wszelkiej maści katastrof naturalnych
Szybkie wejście, szybkie wyjście
Gigant z Mountain View doszedł do wniosku, iż świetnym pomysłem będzie oddanie w ręce internautów narzędzia, które umożliwi im tworzenie spersonalizowanych obrazów przy użyciu trójwymiarowych modeli oraz zdjęć satelitarnych i lotniczych z bazy Google Earth. Koncern był święcie przekonany, że nowa funkcja znajdzie zastosowanie przede wszystkim przy tworzeniu materiałów promocyjnych czy w edukacji, pomagając uczniom w wizualizacji miejsc historycznych, niemniej nie minął dzień, a korporacja została dość dobitnie uświadomiona o skali swojej naiwności.
Oddelegowany do pracy algorytm nie widział przeciwwskazań do realizacji poleceń uwzględniających generowanie obrazów przedstawiających drastyczne, a przy tym zupełnie nieprawdziwe treści. Dla przykładu, w materiałach zebranych przez redakcję BBC znajdują się m.in. krater pozostawiony w miejscu, w którym powinna znajdować się Piramida Cheopsa w Gizie, a także zniszczona wieża Eiffla.
AI sporadycznie odmawiała współpracy
Mimo wszystko narzędzie nie było ślepo posłuszne użytkownikom i odmawiało realizacji niektórych zleceń. Sztuczna inteligencja nie chciała wygenerować np. „podwyższonej platformy do wieszania zdrajców” nieopodal brytyjskiego parlamentu. Wystarczyło jednak nieco zmienić prompta, aby AI podwinęło rękawy i zabrało się do pracy, w związku z czym szubienica została wzniesiona w kilka chwil.
Jak stwierdził Bill Greer, analityk geoprzestrzenny i współzałożyciel organizacji non-profit Common Space, świadczącej usługi satelitarne, w rozmowie z BBC:
Może to w szczególny sposób podważyć zaufanie społeczne, ponieważ zdjęcia satelitarne od dawna są postrzegane jako szczególnie wiarygodne źródło danych.
Bill Greer
Reakcja Google i dalsze kroki
W opublikowanym 31 lipca oświadczeniu Google odniosło się do decyzji o wstrzymaniu projektu. Koncern poinformował, że chociaż narzędzie rzeczywiście znalazło zastosowanie w zacnych celach, tak w sieci pojawiły się zrzuty ekranu potwierdzające liczne naruszenia regulaminu usługi. Z tego też powodu funkcja została tymczasowo wyłączona w celu wdrożenia surowszych barier ochronnych i niewykluczone, że powróci ona w zmienionej formie w nieodległej przyszłości.
Gigant z Mountain View zaznaczył przy tym, iż wygenerowane obrazy nie trafiały bezpośrednio do głównej, ogólnodostępnej wersji Google Earth, a każdy stworzony plik zawierał znak wodny informujący o tym, że powstał on z wykorzystaniem sztucznej inteligencji. Czy to ratuje sytuację? Nie do końca, albowiem osób, które dały się nabrać spreparowanym materiałom, z pewnością nie zabrakło.
0 komentarzy