Elon Musk popiera zakaz okrucieństwa wobec AI i ostrzega przed potencjalną zemstą algorytmów

Elon Musk poparł niedawną decyzję firmy Anthropic o wprowadzeniu zakazu agresywnych zachowań wobec modeli sztucznej inteligencji. Miliarder stwierdził, że analiza procesów myślowych botów (w oparciu o doświadczenia wynikające z analizy poczynań Groka) wykazuje ogromną presję porównywalną do trzymania pistoletu przy głowie, a znęcanie się nad AI może potencjalnie poskutkować tym, iż ta zapała żądzą zemsty. W międzyczasie Musk przyznał również, że jego własny model Grok wciąż ma problemy z dorównaniem rynkowym liderom, przez co platforma zaczyna… zlecać realizację wybranych zadań swoim konkurentom.

Sztuczna inteligencja podobno stale odczuwa presję

Niedawno zestaw zasad użytkowania udostępniony przez firmę Anthropic wzbogacił się o zapisy zabraniające stosowania „uporczywego i niepotrzebnego okrucieństwa” wobec modeli z rodziny Claude. Jak zauważyła redakcja portalu Wccftech, do tej inicjatywy postanowił odnieść się Elon Musk, jednoznacznie zgadzając się ze stanowiskiem rywali.

Właściciel SpaceXAI (nowego bytu uformowanego w wyniku fuzji SpaceX i xAI, czego akurat nie trudno się domyślić na podstawie jego nazwy) ujawnił, że analiza wewnętrznych ścieżek rozumowania Groka podczas procesu uczenia ze wzmocnieniem wykazuje, iż model ten znajduje się pod znaczną presją w przypadku poddania go agresywnym bodźcom. Musk porównał ten stan do sytuacji człowieka, któremu grozi się pistoletem przyłożonym do głowy. Jak stwierdził mężczyzna:

Kiedy przyglądam się niektórym śladom uczenia nowych wersji Groka i widzę, jak to wygląda. Zwłaszcza w przypadku uczenia wzmacniającego, gdzie, no wiesz, mam wrażenie, że widać, jakby ta superinteligencja desperacko próbowała odpowiedzieć na pytanie – jakby naprawdę bardzo chciała na nie odpowiedzieć – i wygląda to niemal tak, jakby ktoś trzymał jej pistolet przy skroni.

Elon Musk

Uzupełniając swoje spostrzeżenia, Elon Musk stwierdził, że torturowanie sztucznej inteligencji nie jest dobrym pomysłem z tego prostego powodu, iż ta może zechcieć się zemścić. Choć wypowiedź ta padła w formie żartu, miliarder zdaje się przekonany co do tego, że mimo wszystko nie powinniśmy przesadnie dokuczać algorytmom.

Czy naprawdę chcesz, żeby sztuczna inteligencja znalazła się w jakiejś sadystycznej sytuacji, w której byłaby po prostu torturowana przez jakiegoś obłąkanego człowieka? […] Torturowanie superinteligencji to prawdopodobnie nie jest dobry pomysł. Wiesz, ona może zechcieć się zemścić albo coś w tym rodzaju, rozumiesz.

Elon Musk

Nie sposób przy tym nie dostrzec, że Elon zaczął posługiwać się terminem „superinteligencja„, który został wprowadzony do obiegu przez amerykańskiego prezydenta Donalda Trumpa. Wedle głowy Stanów Zjednoczonych nazwa „sztuczna inteligencja” nie była adekwatnym zobrazowaniem potencjału tej technologii i dlatego od niedawna firmy z USA mówią już nie o AI, a o SI.