OpenAI, będące jednym z laboratoriów opowiadających się za spowolnieniem rozwoju sztucznej inteligencji, opublikowało nowy tekst, w którym prezentuje swoje stanowisko dotyczące przyszłości zaawansowanych modeli AI i przestrzega przed ryzykiem utraty kontroli nad procesem ich autonomicznego rozwoju. Twórcy ChatuGPT wzywają do natychmiastowego ustanowienia międzynarodowych standardów tzw. rekurencyjnego samodoskonalenia (ang. recursive self-improvement, RSI), które objawia się tym, iż algorytmy samodzielnie projektują swoje kolejne generacje.
Co więcej, według Sama Altmana i spółki to Stany Zjednoczone powinny objąć przywództwo w budowaniu globalnego porozumienia, współpracując z międzynarodową siecią instytutów bezpieczeństwa oraz partnerami technologicznymi. Mając jednak na względzie podejście Donalda Trumpa do tej kwestii, możemy zakładać, że USA nie będzie przesadnie skłonne do ograniczenia postępu w pracach nad sztuczną inteligencją – na nic tu mogą zdać się apele Altmana i Amodeiego.
Rekurencyjne samodoskonalenie modeli AI i ryzyko utraty kontroli
W opublikowanym dokumencie OpenAI przedstawia wizję rozwoju algorytmów zdolnych do prowadzenia zautomatyzowanych badań naukowych oraz inżynieryjnych. Proces ten, przedstawiany jako wspomniane już rekurencyjne samodoskonalenie, zakłada, że systemy AI będą w coraz większym stopniu przejmować zadania związane z tworzeniem, testowaniem i optymalizacją własnych następców.
Choć tytułowa firma zdaje się przekonana co do tego, iż zautomatyzowane badania mogą przynieść istotne przełomy w medycynie czy też matematyce (tu wypada wspomnieć o niedawnym zamieszaniu wokół równań Naviera-Stokesa i rzekomym przypisaniu sobie cudzych zasług), tak akcentuje ona, że w pełni autonomiczne RSI nie jest obecnie realizowane i nie powinno być wdrażane bez bezwzględnego zagwarantowania bezpieczeństwa.
Konsekwencje utraty kontroli nad tym procesem mogą być przeróżne: od braku zrozumienia powstałych procedur, a co za tym idzie – możliwości ich nadzorowania, po sytuację, w której „AI może stać się bardziej niebezpieczna, mniej zrównoważona i ogólnie rzecz biorąc, stanowić zagrożenie dla ludzi”. Nie brzmi kolorowo, prawda? Aby zobrazować potencjalne zagrożenia wynikające z braku odpowiednich zabezpieczeń, OpenAI powołało się na incydent z udziałem swojej technologii oraz platformy Hugging Face.
Międzynarodowe standardy i prym Stanów Zjednoczonych
Dla bezpiecznego prowadzenia prac nad zaawansowaną sztuczną inteligencją konieczne jest zapewnienie, że badania nad dopasowaniem celów AI do wartości ludzkich będą nadążały za rozwojem samych możliwości obliczeniowych poszczególnych modeli. OpenAI podkreśla, iż wewnętrzne procedury poszczególnych laboratoriów są niewystarczające (co stoi w sprzeczności z poglądami wyznawanymi m.in. przez Jensena Huanga z Nvidii) i należy przyjąć jednolity zestaw zasad. Podkreślono, że ich brak stwarza ryzyko fragmentacji przepisów na poziomie międzynarodowym, utrudnia zbiorowe reagowanie na zagrożenia oraz pogłębia nierówności wynikające z nierównomiernego rozkładu kompetencji technologicznych na świecie.
W ocenie tytułowego laboratorium to Stany Zjednoczone, dzięki swojej pozycji w sektorze technologicznym, finansowym i obronnym, powinny wyznaczać kierunek budowy międzynarodowego systemu reguł. Celem jednak nie jest uformowanie swoistego monopolu i systemu pozwalającego narzucać swoją wolę innym, a wręcz przeciwnie – główne założenie to stworzenie przejrzystych zasad dla podmiotów rozwijających zarówno komercyjne, jak i otwarte modele AI.
OpenAI, przekonuje, że obecne regulacje nie pójdą na marne
Proponowany model współpracy międzynarodowej opiera się na dwóch głównych filarach. Pierwszy z nich zakłada wykorzystanie istniejącej sieci instytutów bezpieczeństwa AI (działających m.in. w Wielkiej Brytanii, Japonii, Francji, Niemczech, Korei Południowej, Kanadzie czy Kenii) do wypracowania wspólnych bazowych ocen technicznych i metodologii zarządzania ryzykiem. OpenAI zaznacza, że wypracowane normy nie mają stanowić obowiązkowych licencji ani odgórnych wymogów zatwierdzania modeli przed ich publikacją, lecz reprezentować dobrowolny fundament technologiczny dla ustawodawstw krajowych – na wzór rozwiązań stosowanych w lotnictwie cywilnym czy globalnym sektorze finansowym.
Drugi filar obejmuje ustanowienie spójnych pomiarów oraz procedur rejestrowania i zgłaszania incydentów. Obejmuje to standaryzację progów określających moment, w którym zautomatyzowane badania AI muszą zostać poddane natychmiastowej weryfikacji przez człowieka, a także klasyfikację poziomów istotności awarii. Równolegle wskazano na konieczność stworzenia zabezpieczonych kanałów komunikacji między rządami a operatorami infrastruktury krytycznej w celu wymiany informacji o zagrożeniach cybernetycznych i podatnościach systemowych, w czym istotną rolę ma odegrać dwustronny dialog pomiędzy USA a Chinami.
0 komentarzy