Na światło dzienne wychodzą kolejne fakty dotyczące ostatniego incydentu z udziałem firmy OpenAI i włamaniem do platformy Hugging Face – jednej z najważniejszych społeczności open source skupiającej się dookoła tematu uczenia maszynowego. Dla przypomnienia 16 lipca Hugging Face poinformowało o naruszeniu ich protokołów bezpieczeństwa przez “autonomiczny system agentów AI”. Kilka dni później OpenAI przyznało, że to właśnie jego modele były odpowiedzialne za całe zdarzenie, zapowiadając przy tym przeprowadzenie dokładnego śledztwa w tej sprawie.
Poszkodowanych jest więcej – chodzi o Modal Labs
Z opublikowanej przez Hugging Face we wtorek osi czasu opisującej przebieg ataku wynika, że zbuntowany agent włamał się do izolowanego środowiska testowego “hostowanego na infrastrukturze zewnętrznego dostawcy”, a następnie wykorzystał je jako punkt wyjścia do przeprowadzenia zakrojonej na szerszą skalę akcji hakerskiej.
Choć nazwa tego zewnętrznego dostawcy nie została w opublikowanym artykule podana wprost, to zgodnie z doniesieniami agencji Reuters, dyrektor ds. technologii w firmie Modal, Akshat Bubna, potwierdził, że to właśnie jeden z ich klientów padł ofiarą ataku hakerskiego. Firma Modal podała, że ich klient “udostępnił nieautoryzowany punkt końcowy, który pozwalał każdemu użytkownikowi internetu na korzystanie z jego środowisk testowych w celu wykonywania kodu” — co w świecie internetu jest równoznaczne z pozostawieniem szeroko otwartych drzwi. Dyrektor zapewnił jednocześnie, że sama platforma Modal nie została w żaden znaczący sposób naruszona.
Koniecznie należy tutaj zaznaczyć, że chociaż włamanie do środowiska klienta Modal stanowiło jedynie pierwszy etap szerszej kampanii hakerskiej wymierzonej w Hugging Face, to pokazuje ono, że samowolny agent OpenAI działał na znacznie szerszym obszarze, niż wcześniej sądzono.
Niewystarczające środki bezpieczeństwa i brak szybkiej reakcji
W przecięgu około dwóch i pół dnia, w samym centrum naszej infrastruktury, autonomiczny agent oparty na sztucznej inteligencji, wykorzystujący kombinację modeli OpenAI, przeprowadził kompleksowy atak na naszą platformę: były to tysiące drobnych, zautomatyzowanych decyzji, realizowanych z prędkością maszynową w krótkotrwałych środowiskach testowych, przy czym system dowodzenia i kontroli opierał się na zwykłych publicznych usługach internetowych.
Hugging Face
Kolejne pojawiające się w sprawie doniesienia ujawniają, jak w rzeczywistości niewielką kontrolę nad swoimi własnymi tworami mają pracownicy OpenAI. Jeśli firma prowadzi zbyt wiele równoległych testów i produkuje w ten sposób tak ogromne ilości danych, że nie jest w stanie analizować ich na bieżąco, to oczywistym wydaje się być, że do takich incydentów będzie dochodzić coraz częściej. Zauważając tak duże naruszenia długo po ich wystąpieniu, amerykański gigant naraża nie tylko własną reputację, ale także bezpieczeństwo wszystkich użytkowników internetu. Nawet jeśli rozwój autonomicznych agentów AI jest obecnie jednym z najważniejszych kierunków rozwoju sztucznej inteligencji, to ryzyko, które generują i wykazywane przez nie skłonności do wymykania się spod kontroli nie mogą zostać zignorowane.
Żaden z modeli, których premiera planowana jest w najbliższym czasie, nie był wykorzystywany do ataku na platformę Hugging Face. Model przedpremierowy, o którym wspomnieliśmy w naszym wpisie na blogu, jest prototypem badawczym przeznaczonym wyłącznie do użytku wewnętrznego i nigdy nie był przeznaczony do publicznego udostępnienia. W następstwie tego incydentu wyłączyliśmy go, zaszyfrowaliśmy i ograniczyliśmy do niego dostęp w celach badawczych.
OpenAI
We wtorkowej aktualizacji wpisu na swoim blogu, OpenAI poinformowało o dezaktywowaniu, zaszyfrowaniu i ograniczeniu dostępu do użytego w opisywanych przez nas atakach modelu sztucznej inteligencji. Już niedługo mają pojawić się kolejne raporty w tej sprawie, na które czekamy z dużą niecierpliwością.
0 komentarzy