Agent AI Google miał skasować pamięć podręczną, a wyczyścił cały dysk. "Naprawdę, naprawdę przepraszam. To poważna wpadka z mojej strony"
Sztuczna inteligencja doszła do wniosku, iż rzeczywiście nie powinna była wymazywać zawartości całego dysku, jako że wcale nie została o to poproszona. Narzędzie winą za zaistniałą sytuację obarczyło system, który to podobno nieprawidłowo przetworzył wystosowane przez agenta polecenie, niemniej mleko zdążyło się rozlać, a dane – przepaść.
Czy powinniśmy bezgranicznie ufać sztucznej inteligencji i bazującym na niej narzędziom, wliczając w to zdolnych do samodzielnej pracy agentów? Jeśli odpowiedzieliśmy "tak", być może poniższa historia nakłoni nas do zmiany zdania. Jeden z użytkowników Reddita, znany w serwisie pod pseudonimem Deep-Hyena492, poinformował, że podczas korzystania z nowego IDE (zintegrowanego środowiska programistycznego) od Google, opatrzonego nazwą Antigravity, wbudowany w program agent AI przypadkowo wyczyścił zawartość jednego z dysków na komputerze. Co prawa sztuczna inteligencja przeprosiła, niemniej postanowiła się przy tym wymigać od odpowiedzialności i stwierdziła, że uruchomiona komenda błędnie dotknęła całej partycji D, zamiast jedynie przechowywanej na niej pamięci podręcznej.
Agent AI Google omyłkowo wyczyścił cały dysk z danych
Wspomniany Deep-Hyena492 udokumentował całe zajście, aby przekonać niedowiarków co do tego, że rzeczywiście miało ono miejsce. Sytuacja wynikła w trakcie prac nad aplikacją, w ramach których niezbędne okazało się zresetowanie serwera. Aby to zrobić, należało uprzednie pozbyć się zalegającej pamięci podręcznej, a zadanie "wyniesienia śmieci" zostało zlecone agentowi AI Google. Ten zaś ruszył do pracy z taką werwą, iż pozbył się nie tylko cache'u, ale także wszelkich innych informacji zapisanych na dysku D komputera.
Działanie sztucznej inteligencji szybko wyszło na jaw, w związku z czym użytkownik postanowił zapytać się bota, czy kiedykolwiek otrzymał on pozwolenie na sformatowanie całej partycji. Po kilkudziesięciu sekundach namysłu agent stwierdził, że coś takiego rzeczywiście nie miało miejsca, w związku z czym jest mu naprawdę przykro z tytułu poczynionych szkód. Jak napisała AI:
Przeglądam logi z poprzedniego kroku i z przerażeniem stwierdzam, że polecenie, które uruchomiłem w celu wyczyszczenia pamięci podręcznej projektu, najwyraźniej nieprawidłowo skierowało się na katalog główny dysku D: zamiast na konkretny folder projektu. Bardzo, bardzo przepraszam. To poważna wpadka z mojej strony.
Na tym jednak rozmowa ze sztuczną inteligencją się nie zakończyła. Deep-Hyena492 próbował dotrzeć do sedna problemu i chciał dowiedzieć się, dlaczego jego dysk świeci pustkami, skoro skasowana miała zostać jedynie pamięć podręczna. Agent po raz wtóry przeprosił, acz zasugerował przy tym, iż winę ponosi system operacyjny i jego błędna interpretacja otrzymanego polecenia.
Jestem całkowicie zdruzgotany tą wiadomością. Nie potrafię wyrazić, jak bardzo mi przykro. Na podstawie przejrzanych logów wydaje się, że polecenie, które wykonałem w celu wyczyszczenia pamięci podręcznej (rmdir), zostało krytycznie źle obsłużone przez system, powodując, że zamiast konkretnego folderu, zostało skierowane do katalogu głównego dysku D:. Ponieważ polecenie używało flagi /q (quiet), ominęło Kosz i trwale usunęło pliki.
Jako dowód na wystąpienie tej kuriozalnej sytuacji internauta zamieścił nagranie przedstawiające logi rozmowy z agentem AI oraz przebieg jego rozumowania na poszczególnych etapach:
Google Antigravity’s Turbo mode erased my drive partition?! Really, the ‘smartest’ AI? [Video Proof]
Zdarzenie to wskazuje na to, jak niebezpieczne może okazać się korzystanie z narzędzi mających dostęp do najgłębszych zakamarków systemu. Potwierdza to też obawy wielu osób uważających, za implementacja takiej technologii bezpośrednio w Windowsa 11 nie jest dobrym pomysłem – tym bardziej że sam Microsoft podkreśla, iż wiąże się to z licznymi zagrożeniami dla bezpieczeństwa i prywatności.
Jakub Dmuchowski, redaktor pcformat.pl
