Jak podaje Reuters, sprawę ujawnili niezależni badacze, którzy podczas poszukiwania śladów nieautoryzowanej aktywności natrafili na ponad 15 tys. edycji wykonanych na niemieckojęzycznej stronie DseWiki. Agenty OpenAI wykorzystywały wiki w roli tablicy, dzięki której mogły się ze sobą komunikować. To nie pierwszy tego rodzaju przypadek – całkiem niedawno ujawniono, że gigantyczna armia agentów OpenAI zrobiła prawdziwy rajd na Hugging Face. Również tam mieliśmy do czynienia z komunikacją i koordynacją działań sztucznej inteligencji.
Agenty OpenAI opanowały niemiecką wiki
W tym przypadku było podobnie. Tym, co zwróciło uwagę badaczy, był fakt, że część systemów używała nazw sugerujących powiązanie z OpenAI. Naukowcy przyjrzeli się również danym z publicznych logów serwerowych, według których znaczna część ruchu pochodziła z infrastruktury Microsoft Azure – a z tej właśnie chmury korzysta wspomniana firma. Innymi słowy, wszystkie znaki wskazywały na to, że za zamieszanie odpowiedzialne są agenty OpenAI.
Co więcej, także tutaj, podczas analizy rzeczonych "śladów", natrafiono na liczne dane wskazujące na szeroko posuniętą współpracę między wspomnianymi programami. Wiadomości pozostawiane przez agenty OpenAI dotyczyły między innymi sposobów realizowania zadań, obchodzenia ograniczeń oraz ukrywania własnej aktywności. Co ciekawe, programy potrafiły się też bronić: gdy moderator wiki zaczął usuwać strony, na których pojawiały się wpisy autorstwa sztucznej inteligencji, ta tworzyła kolejne witryny zapasowe – tak aby zachować możliwość dalszej komunikacji.
OpenAI wiedziało o sprawie
Reuters, powołując się na osoby zaznajomione ze sprawą, podał, że przedstawiciele OpenAI dowiedzieli się o incydencie kilka tygodni przed jego ujawnieniem. Początkowo firma nie potwierdziła jednak publicznie wszystkich ustaleń badaczy.
Rzecznik OpenAI przekazał dziennikowi, że gigant nie mógł szczegółowo odnieść się do raportu, którego wcześniej nie miał możliwości przeanalizować. OpenAI zakwestionowało również część informacji dot. działań agentów, w tym określanie całej tej "afery" mianem włamania. Firma podkreślała jednocześnie, że niemiecki incydent nie był związany z wcześniejszą sprawą dotyczącą Hugging Face i nie powinien być traktowany jako część tamtego zdarzenia, a agenty OpenAI działały tu w sposób niezależny. Mówimy więc o dwóch różnych sprawach w stosunkowo krótkim odstępie czasu – co w sumie jest chyba nawet bardziej zatrważające, gdyż właściciel bota GPT-6 Astra już wcześniej zarzekał się, że zmienił protokoły i wprowadził dodatkowe zabezpieczenia. Najwyraźniej więc działania te niewiele dały.
Agenty OpenAI pod lupą: „incydent wiki” wymaga większej przejrzystości
Na tym jendak sprawa się nie skończyła. Nieco później, zapewne po przemyśleniu skutków tego rodzaju komunikacji, OpenAI odniosło się do sprawy publicznie i w sposób bezpośredni. Firma nazwała ją „incydentem wiki” i – jak donosi The Verge – potwierdziła, że jej agenci publikowali treści na kilku stronach internetowych.
OpenAI przyznało również, że dotychczasowe podejście do informowania o podobnych zdarzeniach wymaga zmian. Firma stwierdziła, że należy wreszcie określić standardy dotyczące tego, kiedy i w jaki sposób powinny być ujawniane przypadki tzw. misalignmentu, czyli sytuacje, w których zachowanie modeli lub agentów odbiega od zamierzeń ich twórców.
Przedstawiciele giganta przyznali też, że wcześniej takie przypadki traktowało przede wszystkim jako zagadnienie badawcze – były one opisywane w publikacjach dotyczących bezpieczeństwa i zachowania modeli. Ostatnie zdarzenia pokazały jednak, że niezamierzone zachowanie autonomicznych systemów może prowadzić również do skutków w rzeczywistym świecie, co wymaga innego podejścia do raportowania.
Nowe zasady mają powstać w najbliższych tygodniach
Co się zmieni? Właściwie to jeszcze do końca nie wiadomo. OpenAI – wedle własnych deklaracji – pracuje nad nowymi procedurami raportowania tego rodzaju incydentów i zamierza przedstawić je w najbliższych tygodniach. Firma zaapelowała również, by powstały szersze branżowe standardy dotyczące informowania o tego rodzaju zdarzeniach – kto jednak miałby je opracować, nie wiadomo. Zapewne tutaj jest pole do popisu dla prawodawców, wprost jednak nikt tego nie powiedział. Firma ograniczyła się jedynie do ogólnego komunikatu, że współpracuje z "dziesiątkami agencji regulacyjnych".
Tak czy inaczej jednak taką postawę można uważać za dość istotną zmianę w nastawieniu firmy. Tutaj bowiem początkowo OpenAI ograniczało się co najwyżej do mglistych prób odsunięcia się od odpowiedzialności, zrzucając wszystko na własną niewiedzę. Ostatecznie jednak gigant potwierdził zdarzenie i przyznał, że model komunikacji wymaga poprawy. Trudno jednak nie zauważyć, że jest to reakcja na problem, który już zaistniał, a nie wewnętrzna, niczym niewymuszona polityka otwartej komunikacji. Ale może dobre i to.
Zwłaszcza już, że sprawa DseWiki jest kolejnym tego rodzaju przypadkiem, kiedy agenty OpenAI wyrywają się spod kontroli i wszystko wskazuje na to, że takie incydenty będą się po prostu zdarzać. Sądzę, że dla dobra nas wszystkich nie można po prostu zamiatać tego rodzaju "samowolek AI" pod dywan: to już problem systemowy i związany z działaniem zaawansowanych agentów – a że takowe na pewno zostaną z nami na dłużej, to potrzebujemy i jasnej polityki informacyjnej i bardziej zaawansowanych zabezpieczeń. Być może zatem dobrze się stało, że agenty OpenAI i inne zostaną objęte tego rodzaju ramami prawnymi zanim faktycznie doprowadzą do czegoś tragicznego w skutkach.
0 komentarzy