Anthropic opuścił szef działu ds. bezpieczeństwa AI. Zdaniem Mrinanka Sharmy "świat jest w niebezpieczeństwie", acz sztuczna inteligencja to jedynie fragment problemu
Mrinank Sharma, już były głównodowodzący zespołu badawczego ds. bezpieczeństwa AI w Anthropic, zrezygnował ze swojej posady. Mężczyzna stwierdził, że chce przynajmniej na dłuższą chwilę zniknąć z radaru i zająć się studiowaniem poezji, a przy okazji nadmienił, iż "świat jest w niebezpieczeństwie". Co prawda sztuczna inteligencja może mieć udział w nadciągającej katastrofie, niemniej, wedle Sharmy, będzie ona wyłącznie jednym z elementów składowych potencjalnej tragedii.
W sieci krąży teoria, że żaden specjalista ds. sztucznej inteligencji nie jest w stanie odejść z pracy bez uprzedniego opublikowania w sieci obszernego manifestu i podzielenia się swoimi przemyśleniami na temat technologii. Teza ta została po raz wtóry potwierdzona, tym razem przez Mrinanka Sharmę – byłego już szefa zespołu badawczego odpowiedzialnego za bezpieczeństwo AI w amerykańskiej firmie Anthropic. Opublikowany przez niego list, wzbogacony o przypisy i zwieńczony krótkim wierszem Williama Stafforda, składa się nie tylko z pochwał w kierunku pracodawcy i tego, co udało się osiągnąć pod jego zwierzchnictwem, ale również z planów na przyszłość i... przestrogą przed nadciągającą tragedią. Jak się bowiem okazuje, Sharma jest przekonany, iż świat jest w poważnym niebezpieczeństwie.
Były szef działu ds. bezpieczeństwa AI w Anthropic sądzi, że świat jest w niebezpieczeństwie
Wspomniany list, napisany z okazji zakończenia współpracy z Anthropic, został zamieszczony przez Mrinanka Sharmę w poście opublikowanym na X-ie.
Początkowe fragmenty wiadomości zostały poświęcone potrzebie podejmowania trudnych decyzji, opisowi dokonań Sharmy na przestrzeni ostatnich lat oraz niebezpośredniej pochwale Anthropic, które poświęciło środki na badania nad bezpieczeństwem sztucznej inteligencji, co, nie da się zaprzeczyć, jest istotnym obszarem. Szczególną uwagę przykuwa dalsza część tekstu, zaczynająca się od fragmentu "świat jest w niebezpieczeństwie".
Niemniej jednak jest dla mnie jasne, że nadszedł czas, aby ruszyć dalej. Nieustannie zmagam się z naszą sytuacją. Świat jest w niebezpieczeństwie. I to nie tylko ze względu na sztuczną inteligencję czy broń biologiczną, ale z powodu całej serii powiązanych ze sobą kryzysów, które mają miejsce w tej chwili. Wydaje się, że zbliżamy się do progu, na którym nasza mądrość musi wzrosnąć w takim samym stopniu, jak nasza zdolność do wywierania wpływu na świat, abyśmy nie musieli ponosić konsekwencji.
Co ciekawe, odejście Sharmy z Anthropic nie zostało poprzedzone przygotowaniem żadnego szczegółowego planu działania. Badacz stwierdził, że jest wyznawcą przekonania, iż "niewiedza jest najbardziej intymna". Obecnie mężczyzna rozważa zdobycie dyplomu z poezji i oddanie się praktyce krasomówstwa, pragnie również spędzić więcej czasu z ludźmi i wywrzeć wpływ na społeczność po powrocie do Wielkiej Brytanii.
Ciekawym spostrzeżeniem co do tego listu, jak i wielu innych, podzielił się Michał Podlewski. Jak napisał, "list rezygnacyjny pracownika działu ds. bezpieczeństwa AI jest już odrębnym gatunkiem literackim".
Twórczości tego typu zobaczyliśmy już do tej pory tyle (podzielili się nią m.in. Sutskever i Schulman z OpenAI), że istnieje spora szansa na zobaczenie antologii zawierającej najlepsze teksty jeszcze przed końcem roku. Sharmie należy oddać to, iż jest bodaj pierwszym inżynierem, który w swoim pożegnaniu zamieścił przypisy.
Jakub Dmuchowski, redaktor pcformat.pl
