Anthropic, uznawany obecnie za najwartościowszy start-up technologiczny z sektora sztucznej inteligencji na świecie, wezwał do globalnego wstrzymania prac nad zaawansowanymi modelami AI. Firma ostrzega, że ludzkość stoi w obliczu realnego ryzyka całkowitej utraty kontroli nad tą technologią, a skutki takiego wydarzenia mogą nieść ze sobą mało przyjemne konsekwencje. Co więcej, amerykańscy twórcy Claude zadeklarowali nawet gotowość do zawieszenia własnych projektów nad potężniejszymi systemami, o ile konkurencyjne przedsiębiorstwa zdecydują obrać się analogiczny kierunek. Pytaniem pozostaje jedynie, czy tytułowa korporacja nie próbuje wykorzystać strachu do zyskania przewagi na wciąż dynamicznie kształtującym się rynku.
Wyścig zbrojeń i widmo powstania Skynetu?
W opublikowanym na witrynie internetowej Anthropic eseju Marina Favaro (szefowa działu badawczego) oraz Jack Clark (prezes firmy) porównali obecną sytuację na rynku do klasycznego problemu wyścigu zbrojeń. Ostrzegli oni również przed tym, iż technologia niebezpiecznie zbliża się do punktu tzw. rekurencyjnego samorozwoju, czyli sytuacji, w której systemy AI zaczną samodzielnie projektować i ulepszać kolejne algorytmy. Może to wywołać nagłą eksplozję możliwości maszyn, nad którą człowiek nie będzie już w stanie zapanować, a jej wpływ na sytuację na świecie jest aktualnie trudny do oszacowania – wszak jeszcze nigdy w historii nie mieliśmy do czynienia z czymś podobnym.
Nie mamy dobrego wyobrażenia o tym, jak wyglądałby taki świat, ponieważ nasza gospodarka jest obecnie napędzana przez ludzi i stworzone przez nich narzędzia. Ze względu na swój charakter świat oparty na szybkim, rekurencyjnym samodoskonaleniu mógłby zostać zdominowany przez samodoskonalący się model, ponieważ jego możliwości całkowicie przyćmiłyby możliwości ludzi, a model ten rozprzestrzeniłby się w całej gospodarce. Trudno przewidzieć, jak wyglądałaby gospodarka, gdyby praca ludzka przestała być konkurencyjna.
Choć tytułowa firma postanowiła wystosować apel, sama nie jest przesadnie przekonana co do jego skuteczności. Przedstawiciele Anthropic przyznają, że wprowadzenie globalnego paktu o „technologicznym zawieszeniu broni” będzie sporym wyzwaniem, a oliwy do ognia dolewa ciągnąca się rywalizacja między USA i Chinami. Największym problemem podobno pozostaje jednak weryfikacja poczynań poszczególnych laboratoriów.
Znaczące spowolnienie lub wstrzymanie badań wymagałoby, aby wiele dobrze wyposażonych laboratoriów działających na pograniczu nauki lub w jego pobliżu, w różnych krajach, zgodziło się na wstrzymanie prac na tych samych warunkach. Wymagałoby to również, aby każde z nich mogło zweryfikować, czy pozostałe rzeczywiście wstrzymały działania. Ze względu na specyfikę systemów sztucznej inteligencji kwestia wykrywalności (stanowiąca niższy standard niż weryfikowalność) w tym problemie kontroli zbrojeń jest znacznie trudniejsza niż w przypadku innych technologii. Treningi są znacznie łatwiejsze do ukrycia niż silosy rakietowe, ich dane wejściowe mają charakter ogólny, a motywacja do cichego odstąpienia od porozumienia jest ogromna, ponieważ ten, kto kontynuuje działania, podczas gdy inni wstrzymują się, może przejąć prowadzenie. Wiarygodna przerwa musi również określać, co ją wywołuje, co ją znosi i kto o tym decyduje.
Jak podaje dziennik Telegraph, część niezależnych ekspertów podchodzi jednak do tych apokaliptycznych ostrzeżeń z dużym dystansem. Pojawiają się głosy, że Anthropic celowo wyolbrzymia zagrożenia, a celem firmy może być lobbowanie za wprowadzeniem restrykcyjnych regulacji prawnych, które uderzyłyby w mniejszych konkurentów i uniemożliwiły im dogonienie rynkowych liderów o ugruntowanej pozycji. Jest to prawdopodobny scenariusz, niemniej prawdziwych intencji Amodeiego i spółki raczej prędko nie poznamy.
Mimo swojego defetyzmu Anthropic bez wątpienia ma powody do świętowania. Jak już zostało napomknięte, jest to aktualnie najwartościowszy start-up AI (wyceniany na ok. 965 miliardów dolarów), a tytuł ten udało się wyszarpać z rąk OpenAI.
0 komentarzy