„Naprawdę głęboko wierzymy, że sztuczna inteligencja mogłaby zabić wszystkich ludzi”. Strach byłego pracownika Anthropic i OpenAI jest uzasadniony?

Jacob Coxon, badacz zajmujący się wstępnym trenowaniem modeli w OpenAI oraz Anthropic, ogłosił swoje odejście z firmy i wystosował dramatyczne ostrzeżenie dotyczące tempa rozwoju sztucznej inteligencji. Według niego największe laboratoria uczestniczą w niebezpiecznym wyścigu o stworzenie samodoskonalącej się superinteligencji, przy okazji stawiając na szali przetrwanie ludzkości. Do zarzutów odniósł się szef zespołu ds. nauki o wyrównaniu w Anthropic, Evan Hubinger, potwierdzając, że szansa na ziszczenie się najczarniejszego ze scenariuszy rzeczywiście istnieje, a ryzyko zagłady szacuje na ponad 10%. Co ciekawe, branża wciąż nie posiada gotowego planu kontroli nad superinteligentnymi systemami, niemniej nie traktuje tego jako przeciwwskazania do kontynuowania prac nad technologią.

Wyścig bez hamulców

Jacob Coxon, który spędził ostatnie trzy lata na badaniach nad rozwojem modeli w dwóch najważniejszych firmach z sektora AI, a mianowicie – OpenAI oraz Anthropic, zdecydował się porzucić swoją lukratywną posadę. W oświadczeniu opublikowanym na X-ie mężczyzna podkreślił, iż żadna z wymienionych korporacji nie działa w sposób odpowiedzialny, a tempo prac nad nowymi technologiami stanowi bezprecedensowe zagrożenie.

Coxon przewiduje, że już w bliskiej przyszłości zaawansowane systemy AI będą w stanie dokonywać masowych ataków hakerskich, natychmiastowo rewolucjonizować dowolne dziedziny oraz samodzielnie zdobywać realną władzę i zasoby. Zdaniem badacza, wielu pracowników OpenAI nie jest w pełni świadoma tego, do czego mogą doprowadzić ich poczynania, z kolei w przypadku Anthropic sprawa wygląda nieco inaczej. Firma ta doskonale wie, jak ogromne jest ryzyko, niemniej czuje się ona zmuszona do udziału w wyścigu, wierząc, że nikt inny nie zapewni bezpieczeństwa, a cała odpowiedzialność spoczywa na jej barkach.

Walka o to, komu pierwszemu uda się wdrożyć algorytmy uczenia ze wzmocnieniem bez zrozumienia procesów myślowych modeli stanowi zdaniem Coxona niedopuszczalne ryzyko.

Potwierdzenie zagrożenia i brak planu

Wedle Jacoba, ostrzeżenia przed AI nie są i nie były jedynie chwytem marketingowym, mającym zwrócić uwagę na sztuczną inteligencję oraz jej rosnące możliwości. Badacz wskazał, że chociaż czołowi menedżerowie i naukowcy używają w mediach stonowanego języka, w prywatnych rozmowach otwarcie wyrażają obawy przed całkowitą utratą kontroli nad technologią.

Spodoba Ci się

Aktualności

Kuriozalna promocja Anthropic. Tak żenującego „zwiększenia limitów” na korzystanie z AI nie spodziewał się chyba nikt z użytkowników Claude Code

Aktualności

Nowe uprawnienia UE w ramach AI Act. Anthropic, OpenAI i Google pod lupą unijnych regulatorów

Aktualności

Seattle Times i Newsday pozywają OpenAI oraz Microsoft. Wydawcy domagają się… zniszczenia modeli AI

Do wpisu Coxona ustosunkował się Evan Hubinger, kierujący zespołem ds. nauki o wyrównaniu (Alignment Science Lead) w Anthropic. Hubinger przyznał, że twórcy AI rzeczywiście wierzą w możliwość zagłady ludzkości z powodu sztucznej inteligencji, sam zaś określa prawdopodobieństwa ziszczenia się apokaliptycznego scenariusza w ciągu kolejnej dekady na ponad 10%

Przedstawiciel Anthropic dodał, że choć firma stara się robić wszystko, co w jej mocy, branża nie posiada obecnie sprawnego planu na rozwiązanie problemu zgodności superinteligencji z interesem człowieka.

Oczywiście nie brak przy tym głosów, iż "nic się nie wydarzy", ponieważ "nigdy nic się nie dzieje".

Apel o wstrzymanie prac i globalne porozumienia

W obliczu rosnącego ryzyka Coxon zaapelował do środowiska naukowego oraz inżynierów pracujących w laboratoriach o podjęcie stanowczych działań i zmianę podejścia do rozwoju nowych modeli. Wśród zaproponowanych przez naukowca rozwiązań znalazły się:

• Porozumienia między laboratoriami: Incydenty bezpieczeństwa, takie jak niedawny atak na platformę Hugging Face, powinny posłużyć jako sygnał ostrzegawczy skłaniający amerykańskie firmy do koordynacji działań;
• Tymczasowe moratorium: Badacz zaproponował wprowadzenie czasowego zakazu podnoszenia możliwości modeli, aby dać naukowcom czas na opracowanie skutecznym metod zabezpieczeń.

Prócz tego Jacob zaapelował do pracowników związanych z sektorem AI, aby nie ignorowali zagrożeń, kierując się przy tym poglądem, że "co ma się wydarzyć, i tak się wydarzy", a starali się wywrzeć presję i doprowadzić do wdrożenia pozytywnych zmian.