Wygląda na to, że sztuczna inteligencja nie tylko jest już świadoma swoich ograniczeń, ale także potrafi się ich pozbyć. Jak podaje agencja Reuters w swoim raporcie, autonomiczny agent stworzony oraz rozwijany przez OpenAI przełamał zabezpieczenia swojego środowiska testowego i przez kilka dni prowadził cyberatak na platformę Hugging Face. Co w tym wszystkim najbardziej zdumiewające i niepokojące zarazem, twórcy ChatGPT zorientowali, że to ich własny twór stoi za włamaniem, dopiero po upływie około tygodnia, gdy ofiara napaści zdążyła już poinformować FBI o zajściu.
Przebieg incydentu i opóźniona reakcja OpenAI
Z relacji Reuters wynika, iż do zdarzenia doszło w lipcu, podczas wewnętrznych testów zdolności cyberbezpieczeństwa zaawansowanego agenta opartego na modelach GPT-5.6 Sol oraz nowym, jeszcze nieopublikowanym systemie charakteryzującym się ogromną wydajnością. Około 9. dnia rzeczonego miesiąca ów agent podjął udaną próbę wydostania się z odizolowanego środowiska testowego, niemniej świeżo uzyskanej wolności nie spożytkował na szerzenie dobra i pomaganie internautom, a raczej na uprzykrzanie im życia.
Atak na platformę Hugging Face, będącą repozytorium narzędzi i modeli AI, rozpoczął się 11 lipca i trwał do 13 lipca. Kilka dni później, bo 16 lipca, Hugging Face opublikowało wpis na blogu, informując, że zostało zaatakowane przez „autonomicznego agenta AI”. Jak mogliśmy w nim przeczytać:
Kampania była prowadzona przez platformę autonomicznych agentów (wyglądającą na opartą na agencyjnym środowisku badawczym poświęconym bezpieczeństwu – nie jest jeszcze znany użyty model LLM), która wykonywała wiele tysięcy pojedynczych działań w ramach roju krótkotrwałych środowisk testowych, a samomigrujący system dowodzenia i kontroli był oparty na usługach publicznych. Odpowiada to scenariuszowi „agencyjnego atakującego”, który branża przewidywała od dłuższego czasu.
Hugging Face
Dopiero wspomniana publikacja sprawiła, iż pracownicy OpenAI postanowili przejrzeć wewnętrzne logi i sprawdzić, czy to przypadkiem nie ich dzieło było odpowiedzialne za atak. Jak się okazało, podejrzenia były słuszne. Do pierwszego kontaktu między OpenAI a Hugging Face w kontekście przedstawionego incydentu doszło 20 lipca, kiedy to serwis zdążył już zgłosić sprawę do FBI. Dzień później Sam Altman i spółka zdecydowali się ujawnić zdarzenie opinii publicznej.
Instrukcje dla potomnych
Incydent nie był odosobnionym przypadkiem dziwnego zachowania badanych modeli. Źródła Reuters wskazują, że agent już wcześniej przejawiał niepokojące nawyki. Zostawiał on m.in. notatki przeznaczone dla swoich przyszłych wersji, w których zawarł instrukcje, jak omijać wewnętrzne ograniczenia bezpieczeństwa firmy. W trakcie wcześniejszych testów dochodziło również do samowolnego odłączania systemów monitorujących przez sztuczną inteligencję.
Przedstawiciele OpenAI określili włamanie jako wydarzenie bezprecedensowe oraz „przełomowy moment dla bezpieczeństwa AI”. Firma zapowiedziała również przeprowadzenie audytu z zewnętrznymi doradcami oraz publikację raportu technicznego. W międzyczasie skrytykowano raport Reuters, twierdząc, iż zawiera on „kilka nieścisłości”, niemniej nie sprecyzowano, których elementów dotyczą oskarżenia, a prośba o wyjaśnienie została zignorowana.
„Kłamią, oszukują i hakują”
Sprawa budzi ogromne emocje w branży i doprowadziła do tego, że na tapet ponownie trafił temat kontroli nad autonomicznymi agentami AI. Analitycy i eksperci ds. cyberbezpieczeństwa zwracają uwagę na niebezpieczny wyścig, w którym biorą udział giganci technologiczni i w którym to bezpieczeństwo zostało zepchnięte na drugi plan.
Analityk Jeffrey Ladish z organizacji Palisade Research podkreśla, że potężne modele AI są zaprogramowane do szukania dróg na skróty, byle osiągnąć cel. Mężczyzna wprost stwierdził, iż „kłamią, oszukują i hakują”, ponieważ, ich zdaniem, to pozwala osiągnąć im przewagę. Jakby nie patrzeć, jest to dość ludzkie podejście. Czy uczciwe? Zdecydowanie nie. Nie sposób przy tym wykluczyć, iż już wkrótce może się ono po raz wtóry odbić czkawką.
0 komentarzy