Coraz bardziej zaawansowane wersje AI sprawiają , że sztuka programowania staję się „przystępna” dla coraz większej liczby osób. Niestety oprócz wykupionego planu na korzystanie z modelu sztucznej inteligencji, osoby te rzadko kiedy mają cokolwiek wspólnego z inżynierią oprogramowania, bądź po prostu nie zależy im na tworzeniu „czystego” kodu. Staje się to coraz większym problem w projektach typu open-source – budowanych wspólnie przez setki, a nawet tysiące różnych programistów. „Koderzy”, którzy nie napisali nawet linijki własnego kodu, zalewają liczne projekty halucynacjami swoich LLM-ów, mogąc tym samym doprowadzić do powstania np. niebezpiecznych luk bezpieczeństwa i wstrzymują tym samym pracę bardziej kompetentnych programistów.
Zdecydowana większość nowych zgłoszeń błędów w oprogramowaniu to bzdury napisane przez AI, zawierające nieprawdziwe informacje
Firma Google tymczasowo wstrzymała wypłacanie nagród pieniężnych dla tak zwanych łowców błędów, ponieważ jej pracownicy nie są w stanie nadążyć za obecnym napływem automatycznych zgłoszeń produkowanych najprawdopodobniej przez agentów AI. Google ostrzega, że „zdecydowana większość” tych zgłoszeń to bzdury, zawierające nieprawdziwe informacje i zmyślone dane dotyczące luk w zabezpieczeniach.
Mowa tutaj o programie nagród za wykrywanie luk w oprogramowaniu typu open-source (OSS VRP) firmy Google, który stworzyła go, aby zachęcić kompetentnych programistów do zgłaszania luk w zabezpieczeniach własnych projektów open-source Google. Badacze kodu otrzymują wynagrodzenie za odkrywanie luk, a Google czerpie korzyści z lepszego i bezpieczniejszego kodu.
Niestety nic co dobre, nie trwa wiecznie. Wraz z postępem w dziedzinie sztucznej inteligencji, coraz więcej osób próbuje wykorzystywać ją do szybkiego zarobku, bez zwracania uwagi na jakość produkowanych przez nią zgłoszeń. Zespół Google Bug Hunters był przez to zmuszony ogłosić, że program OSS VRP nie przyjmuje już zgłoszeń dotyczących luk w zabezpieczeniach produktów. Znaczny wzrost automatycznych zgłoszeń w ciągu ostatnich miesięcy nadmiernie obciąża recenzentów Google’a. Co więcej, większość tych zgłoszeń to zwyczajny „AI slop” – nieprawdziwy i bezużyteczny kod, który tylko marnuje czas kompetentnych osób.
Google planuje opublikować aktualizację dotyczącą przyszłości programu w pierwszym kwartale 2027 roku
Jak podaje serwis TechSpot, w konsekwencji Google zaktualizowało również zasady programu OSS VRP, stwierdzając, że program nie będzie przyjmował nowych zgłoszeń luk w zabezpieczeniach przesłanych po 1 października, podczas gdy zgłoszenia złożone przed tą datą są nadal rozpatrywane. Niektóre repozytoria Google Cloud mogą nadal przyjmować nowe zgłoszenia, ale główny program jest obecnie przebudowywany, aby sprostać nowej atmosferze chaosu, jaką programowanie z użyciem AI wniosło do świata oprogramowania open source”. Google planuje opublikować aktualizację dotyczącą przyszłości programu w pierwszym kwartale 2027 roku.
Google wprowadza szczególny wyjątek dla zgłoszeń, które dotyczą błędów łańcucha dostaw mogących mieć ogromny zasięg w porównaniu z innymi „prostszymi” błędami. Zgłoszenia dotyczące szczególnie niebezpiecznych luk również są bezpieczne. Firma kieruje przy okazji kompetentnych łowców błędów poszukujących nagród do innych programów VRP, które nadal przyjmują zgłoszenia.
0 komentarzy