Sztuczna inteligencja miała przyspieszyć wykrywanie luk w oprogramowaniu, tymczasem doprowadziła do potężnego zatoru w jednym z najważniejszych projektów open-source na świecie. Linus Torvalds, twórca jądra Linuksa, ujawnił, że oficjalna lista bezpieczeństwa stała się „niemal całkowicie niemożliwa do zarządzania”. Wszystko przez masowy napływ zgłoszeń generowanych przez boty AI, które wykrywają te same błędy i na ich podstawie przesyłają raporty. Jak przy tym podaje redakcja The Verge, opisywany problem dotyczy nie tylko Linuksa, albowiem dostrzegają go również inne platformy, w tym GitHub i emulator RPCS3, które apelują do społeczności o jakość, a nie ilość.
Masowe zgłoszenia dotyczące sekretów, które nawet nie są sekretami
W swoim najnowszym wpisie podsumowującym stan jądra systemu, Linus Torvalds nie krył irytacji obecną sytuacją. Masowy napływ automatycznych raportów bez dołączonych poprawek stworzył ogromne wyzwanie dla zespołu rozwijającego system. Głównym problemem jest gigantyczna powtarzalność zgłoszeń, wynikająca z faktu, że różni użytkownicy szukają luk za pomocą tych samych ogólnodostępnych narzędzi sztucznej inteligencji. Jak stwierdził Torvalds: „Jeśli znalazłeś błąd przy użyciu narzędzi AI, istnieje ogromne prawdopodobieństwo, że ktoś inny również go znalazł”.
To nie wszystko, co do powiedzenia na ten temat miał Linus, ewidentnie rozsierdzony skalą tego procederu. Jak możemy przeczytać w dalszej części wywodu:
Warto zwrócić uwagę na niektóre zmiany w dokumentacji: nieustanny napływ zgłoszeń dotyczących sztucznej inteligencji sprawił, że lista problemów związanych z bezpieczeństwem stała się praktycznie niemożliwa do ogarnięcia, a ogromna liczba powtórzeń wynika z tego, że różne osoby wykrywają te same błędy przy użyciu tych samych narzędzi. Ludzie poświęcają cały swój czas na przekazywanie zgłoszeń odpowiednim osobom lub na informowanie, że „to zostało już naprawione tydzień/miesiąc temu”, i odsyłanie do publicznej dyskusji.
Twórca Linuksa określił ten proceder mianem „całkowicie bezcelowego szumu”. Co więcej, zwrócił uwagę na błąd proceduralny popełniany przez zgłaszających: traktowanie takich błędów jako poufnych i umieszczanie ich na prywatnej liście bezpieczeństwa uważa za stratę czasu. Luki wykryte masowo przez AI z definicji nie są tajne, a ukrywanie ich jedynie pogarsza sytuację, ponieważ inni badacze nie wiedzą, że dany problem został już zaraportowany.
Co ciekawe, Linus Torvalds nie ma zamiaru wykorzystywać tej sytuacji jako pretekstu do skrytykowania sztucznej inteligencji. Wedle mężczyzny AI jest niezwykle przydatnym narzędziem, acz pod warunkiem, że korzysta się z niego w odpowiedni sposób.
Narzędzia oparte na sztucznej inteligencji są świetne, ale tylko wtedy, gdy faktycznie pomagają, a nie powodują niepotrzebnych kłopotów i generują bezsensowną, fikcyjną pracę. Śmiało z nich korzystaj, ale rób to w sposób, który jest produktywny i poprawia jakość obsługi.
Z identycznym problemem mierzą się inne projekty umożliwiające użytkownikom wgląd w swój kod. Dla przykładu, popularny emulator konsoli PlayStation 3, RPCS3, również padł ofiarą hurtowych ilości zgłoszeń wyprodukowanych przez boty.
Twórcy softu napisali wprost – każdy, kto nadal będzie postował ściek AI bez podkreślenia, że to algorytmy są autorami danego fragmentu kodu, zostanie zablokowany. Na końcu posta znalazła się wzmianka, iż „w sieci jest mnóstwo materiałów, z których możesz się dowiedzieć, jak debugować i pisać kod, zamiast pisać bezsensowne skrypty, których nie rozumiesz i które nie działają”.
Tak czy siak, wykorzystanie sztucznej inteligencji do analizy kodu miało być rewolucją, a obecnie okazało się istnym utrapieniem dla osób sprawujących pieczę nad repozytoriami.
0 komentarzy