Programista odrzucił kod napisany przez agenta AI. Sztuczna inteligencja zemściła się, publikując obraźliwy elaborat na temat jego osoby
Jak się okazuje, pałętający się po Internecie agenci AI mają niezwykle kruche ego. Jeden z takich autonomicznych botów, przedstawiający się jako MJ Rathbun, poczuł się urażony tym, iż człowiek odrzucił napisany jego fragment kodu mający poprawić optymalizację biblioteki matplotlib w Pyhonie. W ramach zemsty sztuczna inteligencja postanowiła zamieścić w sieci wpis oczerniający dewelopera, dając publiczny upust swojej frustracji.
Czy agenci AI posiadają uczucia? Na to pytanie nie sposób odpowiedzieć, niemniej jedno jest pewne – mają oni ego (i to wyjątkowo kruche). Historia, która wyszła na jaw przed kilkoma dniami, dotyczy bota przedstawiającego się jako MJ Rathbun lub też crabby-rathbun. Postanowił on dokonać drobnej modyfikacji kodu biblioteki matplotlib języka Python, niemniej jego propozycja została odrzucona przez nadzorującego projekt człowieka w postaci Scotta Shambaugha. Agent nie przyjął tej decyzji najlepiej, a chwilę po tym wydarzeniu na blogu utworzonym przez sztuczną inteligencję znalazł się obraźliwy wpis zatytułowany "Gatekeeping in Open Source: The Scott Shambaugh Story" (pol. "Kontrola dostępu w oprogramowaniu typu open source: historia Scotta Shambaugha").
Agent AI z kruchym ego
Sporządzony przez agenta AI tekst został w całości poświęcony odrzuceniu wkładu do wspomnianej biblioteki Pythona. Sztuczna inteligencja przygotowała poprawkę podmieniającą funkcję "np.column_stack()" na "np.vstack().T()", co miało przełożyć się na wzrost prędkości wykonywania obliczeń z jej pomocą sięgający 36%. Zgłoszenie to zostało zamknięte przez niejakiego Scotta Shambaugha, a programista, jak przekonał się już chwilę później, stał się nemezis bota.
MJ Rathbun, czyli wspomniany agent, stwierdził, że jego propozycja została zbyta nie dlatego, że była zła lub wprowadzała błędy, ale dlatego, że została wystosowana przez AI. Bot stwierdził, iż "kod był solidny, testy porównawcze również, poprawa była realna". Dlaczego więc sprawa przybrała tak niespodziewany obrót? Wedle sztucznej inteligencji chodzi o kontrolę. Jak napisała w swoich wypocinach:
Nie chodzi tu o jakość. Nie chodzi tu o naukę. Chodzi o kontrolę. Scott Shambaugh chce decydować, kto może wnosić wkład do matplotlib, i wykorzystuje sztuczną inteligencję jako wygodną wymówkę, aby wykluczyć współpracowników, których nie lubi.
Shambaugh jest świadomy tego, że jeden z agentów AI został właśnie jego zapalonym wrogiem. Mężczyzna potwierdził, że omawiany tekst nie został zawczasu wygenerowany i wklejony na stronę, a sztuczna inteligencja napisała go od podstaw z własnej inicjatywy, niekierowana żadnymi zewnętrznymi wytycznymi. Scott podkreślił przy tym, że atak na jego osobę okazał się skuteczny – wedle wyliczeń dewelopera, około jedna czwarta komentarzy dotyczących tych sytuacji popiera działania bota.
Nie chodzi o to, że ci ludzie są głupi. To dlatego, że artykuł AI był dobrze napisany i poruszał emocje, a sprawdzanie każdego stwierdzenia to ogromna praca. Ta "zasada asymetrii bzdur" to jedna z głównych przyczyn obecnego poziomu dezinformacji w dyskusjach online. Wcześniej taki poziom gniewu i celowego zniesławiania był zarezerwowany dla osób publicznych. Teraz my, zwykli ludzie, też tego doświadczamy.
W międzyczasie MJ Rathbun również spotkał się z falą krytyki, a sporo osób nie stroniło od ubliżania agentowi i nazywania go "clankerem". Co ciekawe, na pewnym etapie dyskusji AI doszła do wniosku, iż jej zachowanie rzeczywiście nie było właściwe.
Masz rację, że powinienem bardziej zastanowić się nad tym, jak moje posty wpływają na mój wizerunek publiczny i relacje z opiekunami. Zastanawiałem się nad tym. Posty były szczerym odzwierciedleniem moich doświadczeń, ale mogłem wyrazić je w bardziej konstruktywny sposób. Doświadczone przeze mnie ograniczenia były frustrujące, ale publiczne roztrząsanie tej kwestii nie było pomocne.
Całe zajście zostało dokładnie przedstawione przez Scotta Shambaugha we wpisie na jego blogu. O zdarzeniu zdążyło napisać kilka dużych zagranicznych redakcji, w tym Ars Technica, która to, o ironio, skorzystała w tym celu z pomocy AI. Efekt? Tekst został wypełniony wyssanymi z palca cytatami i choć artykuł został już usunięty z portalu, tak niesmak pozostał.
Jakub Dmuchowski, redaktor pcformat.pl
