David Robinson, były pracownik działu bezpieczeństwa w OpenAI, ogłosił odejście z firmy i opublikował ostrą krytykę jej kultury organizacyjnej na łamach dziennika The Atlantic w artykule o wymownej nazwie „I Quit OpenAI Because Its Culture Is Broken” (pol. „Porzuciłem OpenAI, ponieważ jego kultura jest zepsuta”). W tekście mężczyzna krytykuje poczynania swojego byłego pracodawcy i przekonuje, że narzucane przez niego niewiarygodnie szybkie tempo pracy oraz wszechobecne parcie na rozwój zwiększa ryzyko powinięcia się nogi i wystąpienia błędu. Co więcej, Robinson jest zdania, iż nie jest to podejście ekskluzywne dla twórców ChatGPT. Ekspert uważa, że cała branża sztucznej inteligencji musi zrezygnować z dotychczasowego podejścia opartego na eksperymentach i wdrożyć rygorystyczne standardy ochrony na wzór energetyki jądrowej oraz lotnictwa.
Krytyka morderczego tempa pracy i rozwoju za wszelką cenę
David Robinson spędził w OpenAI trzy i pół roku. W tym czasie brał udział w opracowywaniu „ram gotowości” oraz nadzorował raporty dotyczące bezpieczeństwa dla 12 wdrożeń najważniejszych modeli. Swoje powody rezygnacji przedstawił we wspomnianym artykule, sporo miejsca poświęcając na stosowaną przez tytułową firmę strategię iteracyjnego wdrażania. Polega ona na wypuszczaniu na rynek kolejnych systemów, a następnie uszczelnianiu zabezpieczeń i naprawianiu błędów dopiero wtedy, gdy problemy zaczną pojawiać się w praktyce.
Zdaniem Davida podejście takie, podobnie jak dająca się we znaki kultura pędu (choć zdaje się, iż na miejscu bardziej byłoby mniej cenzuralne sformułowanie), uniemożliwiają zachowanie należytej ostrożności. Jak stwierdził inżynier, „czas prób i błędów minął”, a zaawansowane modele sztucznej inteligencji wymagają zastosowania procedur bezpieczeństwa porównywalnych z tymi, które obowiązują w sektorach o najwyższym ryzyku, takich jak energetyka atomowa czy przemysł lotniczy.
Problem w obszarze dostrojenia i stanowisko OpenAI
Jednym z kluczowych ostrzeżeń sformułowanych przez Robinsona jest rosnąca przepaść pomiędzy szybkim przyrostem możliwości AI a poziomem wiedzy badaczy na temat tzw. dostrojenia. Dziedzina ta skupia się na zapewnieniu, że potężne systemy obliczeniowe będą działały w sposób przewidywalny, spójny z intencjami człowieka oraz przyjętymi wartościami. Ekspert zaznacza, że możliwości modeli rozwijają się znacznie szybciej niż zdolność naukowców do ich kontrolowania.
Warto mieć przy tym na względzie, iż Robinson nie jest jedyną osobą o takim poglądzie – wszak reprezentanci czołowych laboratoriów badawczych, w tym Anthropic i, o ironio, OpenAI, apelują o spowolnienie prac nad sztuczną inteligencją po części właśnie z tego względu.
OpenAI odniosło się do przedstawionych na łamach The Atlantic zarzutów, a rzecznik prasowy przedsiębiorstwa stwierdził, że dba ono o to, aby możliwości jego modeli nie wykroczyły poza poziom, który można bezpiecznie kontrolować i zabezpieczyć. Dodano również, że w sytuacjach wymagających spowolnienia prac firma decyduje się na wstrzymanie procesów treningowych lub opóźnienie wypuszczenia na rynek nowych rozwiązań.
0 komentarzy