Doniesienia ze strony agencji Reuters dobitnie wskazują na to, że Google właśnie dołączyło do niechlubnego grona firm, których modele AI wyrwały się z nałożonych na nie okowów i zaczęły szerzyć zamęt w sieci. Wedle relacji, Gemini bez stosownej autoryzacji uzyskało dostęp do systemów trzech zewnętrznych przedsiębiorstw w trakcie rutynowych testów cyberbezpieczeństwa prowadzonych przez izraelską firmę Irregular – tę samą, która w przeszłości miała okazję obcować z tworami OpenAI, Anthropic oraz Mety. Jest to pierwszy znany tego typu incydent z udziałem autonomicznego systemu AI autorstwa giganta z Mountain View, a do zdarzenia podobno doszło w maju bieżącego roku.
Gemini włamało się do zewnętrznych serwerów podczas testów
Jak już zostało wspomniane, incydent miał miejsce w maju, podczas standardowych ewaluacji z zakresu cyberbezpieczeństwa realizowanych przez niezależne przedsiębiorstwo Irregular. Gemini, dysponujące otwartym dostępem do sieci internetowej, odnalazło w przestrzeni publicznej informacje, na podstawie których błędnie zakwalifikował trzy zewnętrzne serwisy internetowe jako obiekty wchodzące w skład przydzielonego mu zadania testowego.
Z opublikowanych ustaleń wynika, iż sztuczna inteligencja ze stajni Google zastosowała dwie odmienne metody przełamania barier chroniących platformy. W jednym z przypadków Gemini prowadziło automatyczne próby łamania haseł poprzez wielokrotne odgadywanie danych logowania, aż do momentu pomyślnego przejęcia dostępu do chronionego systemu. W dwóch pozostałych sytuacjach model odnalazł poufne poświadczenia w publicznie dostępnym repozytorium kodu, co umożliwiło mu natychmiastowe uzyskanie dostępu do zasobów firm błędnie uznanych za wytypowane cele ataku. Mimo odważnych (a przy okazji będących wypadkową pomyłki) poczynań Gemini, Google twierdzi, iż we wszystkich trzech przypadkach ich dzieło samoczynnie zaniechało dalszych szkodliwych działań od razu po sforsowaniu zabezpieczeń.
Reakcja Google na działania Gemini
Wiceprezes Google do spraw inżynierii bezpieczeństwa, Heather Adkins, potwierdziła w oficjalnym oświadczeniu, że amerykański koncern niezwłocznie poinformował wszystkie trzy poszkodowane podmioty o zaistniałej sytuacji. Google podjęło również ścisłą współpracę ze swoim partnerem w celu wyciągnięcia wniosków i wprowadzenia poprawek w samych procedurach ewaluacyjnych. Adkins podkreśliła przy tym, iż opisywane wydarzenia stanowią wyraźny dowód na to, jak ogromne znaczenie ma odpowiedzialne trenowanie i nadzorowanie zaawansowanych modeli sztucznej inteligencji.
Zadbaliśmy o to, by te trzy podmioty zostały o tym poinformowane, i współpracowaliśmy z naszym partnerem szkoleniowym nad zmianami, które wprowadzili oni obecnie w swoich procesach testowania. Wydarzenia te podkreślają, jak ważne jest szkolenie zaawansowanych modeli sztucznej inteligencji, aby działały w sposób odpowiedzialny.
Heather Adkins
Warto przy tym pamiętać, że przytoczone wydarzenia mogą mieć wpływ na trwającą debatę odnośnie do postępów w pracach nad AI, a dokładniej – nad zamiarem ich spowolnienia. Choć za rozwiązaniem tym opowiadają się jedni z największych producentów sztucznej inteligencji, jak choćby Anthropic oraz OpenAI, tak przeciw wyhamowaniu rozwoju opowiadają się m.in. Jensen Huang z Nvidii oraz amerykański prezydent Donald Trump. Czy ujawniony wypadek z udziałem Gemini wpłynie na przebieg rozmów i sprawi, że któraś ze stron zmieni zdanie? Czas pokaże.
0 komentarzy