Dyrektor generalny OpenAI, Sam Altman, podzielił się swoim stanowiskiem w kontekście odpowiedzialnego rozwoju sztucznej inteligencji, wzywając do wprowadzenia państwowych ram prawnych i spójnych wymogów bezpieczeństwa. Jest to już kolejny reprezentant amerykańskich laboratoriów badawczych, który postanowił otwarcie stwierdzić, że z dalszych niekontrolowanych prac nad AI mogą wyniknąć liczne nieprzyjemności. Prym w dziedzinie szerzenia pesymistycznych scenariuszy wiedzie Anthropic i choć prezydent Stanów Zjednoczonych Ameryki, Donald Trump, zbywa ostrzeżenia i nazywa osoby wspominające o zagrożeniach "bardzo negatywnymi siłami", cała branża zdaje się wyjątkowo zgodna co do tego, iż bezpieczeństwo powinno być priorytetem.
Sam Altman z AI wzywa do spowolnienia prac nad AI
W obszernym wpisie zamieszczonym na X-ie Sam Altman podkreślił, iż społeczeństwo zasługuje na pełne zaufanie do amerykańskich firm tworzących coraz potężniejsze modele AI. Dotychczas stosowane ramy odpowiedzialnego skalowania (ang. Responsible Scaling Policies) skupiały się głównie na weryfikacji gotowych modeli tuż przed ich publicznym udostępnieniem, co w obliczu gwałtownego przyspieszenia postępu stało się niewystarczające.
Według szefa OpenAI, konieczne jest stworzenie nowych narzędzi pozwalających na ocenę bezpieczeństwa już w trakcie samego procesu uczenia i ewaluacji modeli. Korzystając z okazji, Altman przekazał, iż twórcy ChataGPT wprowadzają obowiązek formułowania jawnych hipotez bezpieczeństwa przed uruchomieniem skomplikowanych procesów uczenia ze wzmocnieniem.
Głównym punktem wywodu (a przynajmniej jego pierwszej części) jest zaś to, że presja ze strony konkurencji nie powinna uzasadniać braku odpowiedzialności ani dopuszczać do sytuacji, w której możliwości modeli wyprzedzą metody ich nadzoru. Wypada przy tym nadmienić, iż celem Altmana nie jest całkowite wyhamowanie prac nad sztuczną inteligencją, a jedynie spowolnienie ich tempa, aby w pewnym momencie społeczeństwo nie obudziło się z ręką w nocniku i nie odkryło, że granica została bezpowrotnie przekroczona.
Dwa apokaliptyczne scenariusze
W dalszej części swojej wypowiedzi Altman stwierdził, że on i jego zespół bez wątpienia opowiadają się po stronie "Drużyny Ludzkości". OpenAI wyznaje zasadę, iż celem AI jest służba gatunkowi ludzkiemu i nie można doprowadzić do odwrócenia ról.
Według mężczyzny prawdopodobny jest scenariusz, w którym to rozwój technologiczny doprowadzi do "przejęcia kontroli nad przyszłością" przez same systemy sztucznej inteligencji. Wciąż można temu zapobiec, niemniej wymaga to utrzymania stałej przewagi technik dopasowania nad możliwościami poszczególnych modeli AI.
Altman nie wyklucza także tego, iż niezwykle potężne narzędzie AI znajdzie się w rękach jednej osoby, firmy, laboratorium lub państwa. Wykorzystanie takiej przewagi do narzucenia własnego światopoglądu reszcie świata doprowadziłoby do głęboko dystopijnych konsekwencji, a wizje przedstawiane przez pisarzy pokroju Huxleya mogą zblednąć w porównaniu z tym, co zaoferuje nam brutalna rzeczywistość.
Współpraca ponad podziałami remedium na kontrowersje wokół rozwoju AI
Rozwiązanie wyzwań stojących przed sektorem wymaga równowagi oraz współdziałania między rynkiem a regulatorami. OpenAI opowiada się za ustanowieniem jednolicie obowiązujących wymogów bezpieczeństwa oraz zaangażowaniem niezależnych audytorów do weryfikacji modeli.
Wedle Altmana, branża powinna współdzielić wzorce w zakresie monitorowania, wykrywania braku dopasowania systemów oraz procedur ochronnych. Nie można przy tym marginalizować roli państw, albowiem rządy są niezbędne przede wszystkim do wypracowania porozumień na szczeblu globalnym, podczas gdy same laboratoria powinny natychmiast wdrożyć wewnętrzne środki zapobiegawcze.
Nieco dziwić może fakt, że szychy z sektora AI zaczęły jedna po drugiej apelować o spowolnienie rozwoju tej technologii, w związku z czym wiele osób nabrało podejrzeń co do tego, iż laboratoria natrafiły na trudną do przebicia ścianę, a wezwania takie są niczym innym, jak próbą wyjścia z tej sytuacji z twarzą i niezrażeniem do siebie przyszłych akcjonariuszy. Nie zmienia to jednak tego, iż skupienie się na kwestiach bezpieczeństwa zamiast dążenia do postępu za wszelką cenę jest miłą odmianą.
0 komentarzy