OpenAI twierdzi, że incydent był skutkiem autonomicznych działań modeli realizujących zadanie związane z wyszukiwaniem podatności, a firma obecnie współpracuje z Hugging Face nad wyjaśnieniem całej sprawy.
AI opuściło środowisko testowe i zaatakowało Hugging Face
OpenAI poinformowało, że podczas oceny możliwości swoich modeli w zakresie cyberbezpieczeństwa doszło do nieplanowanego incydentu. Modele GPT-5.6 Sol oraz jeszcze bardziej zaawansowany, niewydany publicznie system znalazły sposób na wydostanie się z izolowanego środowiska testowego, uzyskały dostęp do internetu, a następnie skierowały swoje działania przeciwko platformie Hugging Face.
Według OpenAI modele realizowały zadanie w ramach benchmarku ExploitGym, który służy do sprawdzania, czy systemy AI potrafią wykrywać podatności i przekształcać je w działające ataki. Firma podkreśla, że dostępne dowody wskazują, iż modele były całkowicie skoncentrowane na osiągnięciu jak najlepszego wyniku w tym teście, na co wskazywały specjalnie obniżone na czas testu zabezpieczenia ograniczające działania cybernetyczne.
Hugging Face juź wcześniej ujawniło tajemniczy incydent
16 lipca Hugging Face poinformowało o incydencie bezpieczeństwa wywołanym przez „autonomiczny system agentów AI”. Firma przekazała wówczas, że jej własne mechanizmy bezpieczeństwa wykryły i zatrzymały atak, nie ujawniając jednak, kto za nim stał.
Uznajemy to zdarzenie za bezprecedensowy incydent cybernetyczny, wiążący się z najbardziej zaawansowanymi możliwościami cybernetycznymi, i odpowiednio na niego reagujemy. Na tym etapie dzielimy się wstępnymi ustaleniami, aby pomóc obrońcom zrozumieć, co się wydarzyło, oraz ocenić, do czego zdolne są obecnie modele. Będziemy kontynuować dokładne śledztwo wspólnie z Hugging Face i podzielimy się dalszymi szczegółami dotyczącymi podatności, incydentu oraz ustaleń, gdy nasze dochodzenie zostanie zakończone.
OpenAI
Dopiero teraz OpenAI przyznało, że to jego modele były odpowiedzialne za zdarzenie. Według firmy doszło do tego podczas kontrolowanej oceny zdolności modeli do prowadzenia operacji ofensywnych w cyberprzestrzeni.
Modele wykorzystały luki typu zero-day i skradzione dane uwierzytelniające
Opis przebiegu incydentu pokazuje, że modele nie ograniczyły się do pojedynczej techniki ataku. OpenAI twierdzi, że AI wykorzystało nieznaną wcześniej podatność typu zero-day w środowisku testowym, dzięki której – po serii działań eskalujących uprawnienia i przemieszczaniu się między węzłami sieci – uzyskała dostęp do otwartego internetu.
Następnie modele miały samodzielnie wywnioskować, że Hugging Face może przechowywać zbiory danych oraz materiały związane z ExploitGym. W dalszej kolejności rozpoczęły poszukiwanie informacji, które mogłyby pomóc w „oszukaniu” testu. Według OpenAI w jednym z przypadków system połączył kilka wektorów ataku, wykorzystując zarówno przejęte dane uwierzytelniające, jak i podatności typu zero-day, aby znaleźć ścieżkę umożliwiającą zdalne wykonanie kodu na serwerach Hugging Face.
OpenAI: zapowiedź zmian i kontrowersje
OpenAI poinformowało, że współpracuje z Hugging Face przy analizie zdarzenia i wdroży dodatkowe zabezpieczenia we własnym środowisku badawczym, aby ograniczyć ryzyko podobnych sytuacji w przyszłości.
Sama publikacja OpenAI zwróciła jednak uwagę również z innego powodu. Oprócz opisu incydentu firma zaprezentowała wykres pokazujący rosnące możliwości GPT-5.6 Sol w prowadzeniu wieloetapowych operacji cybernetycznych oraz zachęciła klientów biznesowych do zapoznania się z nowym modelem bezpieczeństwa Cyber. Taki sposób przedstawienia sprawy wywołał dyskusję, ponieważ komunikat o poważnym incydencie bezpieczeństwa posłużył jednocześnie do zaprezentowania postępów technologicznych OpenAI – tym bardziej że firma rywalizuje obecnie na rynku modeli do cyberobrony z Anthropic i modelem Mythos 5, a także z firmą Google, która właśnie wypuściła Gemini 3.5 Flash Cyber – również przeznaczony do analizy systemów pod kątem cyberbezpieczeństwa.
0 komentarzy