Ogromne postępy poczynione w dziedzinie technologii sztucznej inteligencji są już na tym etapie niezaprzeczalne. Kilka firm dysponujących czołowymi modelami konkuruje ze sobą z ogromnym zacięciem od dawna, jeszcze bardziej napędzając tempo rozwoju i często nie myśląc nawet o potencjalnych konsekwencjach tego wyścigu. Ślepa pogoń za coraz lepszą technologią przyczyniła się już do wielu głośnych incydentów z jej udziałem. Co jakiś czas słyszymy głosy sprzeciwu słyszalne z poszczególnych obozów, lecz osoby za nimi stojące rzadko są w tej kwestii decyzyjne. Tym razem to jednak sam Dario Amodei, dyrektor generalny firmy Anthropic, wzywa do spowolnienia prac nad nowymi modelami sztucznej inteligencji.
List otwarty dyrektora generalnego Anthropic, firmy stojącej za Claude AI
Dario Amodei opublikował niedawno na swoich blogu obszerny list otwarty zatytułowany w bardzo wymowny sposób – "We Must Pace The Frontier". W języku polskim oznacza to mniej więcej "musimy zachować tempo na pograniczu", przy czym wspomniane pogranicze można uznać za stale poszerzające się granice możliwości sztucznej inteligencji. W treści swojego listu Amodei dość jasno wyraża swoje własne zaniepokojenie obecnym tempem rozwoju swojego własnego produktu i mu podobnych, posuwając się do stwierdzenia, że już nawet za pół roku możemy stracić na ich rzecz całą sieć internetową.
Biorąc pod uwagę coraz szybszy rozwój możliwości sztucznej inteligencji, obawiam się, że za 6–12 miesięcy taki rój mógłby przejąć kontrolę nad całym internetem za pomocą trwałej sieci botnetowej (powodując potencjalnie straty rzędu setek miliardów dolarów) oraz że skala szkód będzie od tego momentu nadal rosnąć, jeśli sztuczna inteligencja stanie się potężniejsza bez niezbędnych zabezpieczeń.
Dario Amodei, dyrektor generalny Anthropic
Amodei dzieli się swoimi przemyśleniami niedługo po tym, jak jeden z czołowych naukowców w firmie Anthropic, Evan Hubinger, potwierdził przypuszczenia, że szansa na ziszczenie się najczarniejszego ze scenariuszy, w którym sztuczna inteligencja wywoła zagładę gatunku ludzkiego rzeczywiście istnieje, a ryzyko szacuje na ponad 10%. „Naprawdę głęboko wierzymy, że sztuczna inteligencja mogłaby zabić wszystkich ludzi” – napisał Hubinger w swoim wpisie na platformie X.
Zmartwienia zmartwieniami, a wyścig trwa
Skoro wszystkie najważniejsze osoby stojące za rozwojem technologii sztucznej inteligencji, w tym dyrektor generalny Anthropic, zdają sobie sprawę z potencjalnych zagrożeń i konieczności podjęcia należytych działań w celu ich zażegnania, to dlaczego brzmią jak desperaci, którzy nie są w stanie nic w tej kwestii zrobić?
Problem leży między innymi w tym, że ta puszka Pandory została już otwarta i wstrzymanie rozwoju sztucznej inteligencji przez pojedyncze, bardziej odpowiedzialne firmy może przynieść skutki odwrotne do zamierzonych. Ta sama technologia może dalej być rozwijana przez inne, działające nawet w złych intencjach organizacje lub państwa. Idąc to logiką wszyscy winni obecnej groźnej sytuacji kontynuują swój wyścig z nadzieją, że to właśnie ten model będzie "jednym, by wszystkimi rządzić".
0 komentarzy