Sztuczna inteligencja potrafi zaskakiwać i wprawiać w zakłopotanie nawet swoich własnych twórców. Jak donosi The Wall Street Journal, firma OpenAI musiała niedawno wydać swojemu popularnemu czatbotowi surowy zakaz losowego poruszania tematu goblinów podczas rozmów z użytkownikami. Najnowsze modele GPT zaczęły z niewiadomych przyczyn, z pozoru zupełnie znienacka, wplatać w swoje wypowiedzi wzmianki o stworzeniach takich jak gobliny, gremliny, trolle czy ogry. Cała sytuacja stała się na tyle powszechna, że w mediach społecznościowych zyskała miano Goblingate.
Czym jest Goblingate i dlaczego ChatGPT lubi zielone stwory?
Dziwne zachowanie i specyficzny język czatbota przyciągnęły uwagę wielu internautów. Jeden z nich, 32-letni menedżer produktu w firmie technologicznej, niejaki Barron Roth, zauważył, iż ChatGPT określił błąd w jego kodzie mianem „klasycznego małego goblina”. Dlaczego sztuczna inteligencja postanowiła nawiązać do tej istoty? Tego nie wiadomo, ponieważ Roth w żadnym momencie o to nie prosił. Łącznie mężczyzna doliczył się przeszło 20 sytuacji, w których AI wspomniała o tych stworzeniach bez absolutnie żadnej zachęty z jego strony.
Nie zabrakło przy tym opinii, że używanie terminologii związanej z goblinami oraz innymi humanoidalnymi potworami to sposób, w jaki sztuczna inteligencja charakteryzuje samą siebie. Pytaniem więc pozostaje – czemu akurat gobliny? Według OpenAI, czyli twórców narzędzia, odpowiedź jest dość złożona. W międzyczasie przedsiębiorstwo doszło jednak do wniosku, że miarka się przebrała, a ChatGPT otrzymał szlaban na poruszanie tematu stworków (i gołębi), jeśli nie zostanie o to wyraźnie poproszony.
W podstawowych instrukcjach dla asystenta kodowania ChatGPT (Codex) umieszczono następującą linijkę:
Nigdy nie rozmawiaj o goblinach, gremlinach, szopach praczach, trollach, ograch, gołębiach ani innych zwierzętach lub stworzeniach, chyba że jest to absolutnie i jednoznacznie związane z zapytaniem użytkownika
Dlaczego sztuczna inteligencja traktowała gołębie i szopy na równi z goblinami oraz trollami – tego również nie zdradzono.
Na stronie OpenAI pojawił się artykuł o wymownej nazwie „Skąd wzięły się gobliny?”, w którym przedsiębiorstwo tłumaczy, jakie czynniki mogły mieć wpływ na zainteresowanie się dużego modelu językowego tytułowych ludzików. Wedle relacji, głównym winowajcą okazało się wytrenowanie technologii w taki sposób, aby jej zachowanie i sposób wypowiedzi było nieco nerdowskie. Jak możemy przeczytać:
Krótka odpowiedź brzmi: na zachowanie modelu wpływa wiele drobnych bodźców. W tym przypadku jeden z nich wynikał z trenowania modelu pod kątem funkcji dostosowywania osobowości, a konkretnie osobowości typu „nerd”. Nieświadomie przyznawaliśmy szczególnie wysokie nagrody za metafory związane ze stworzeniami. Stąd też rozprzestrzeniły się gobliny.
Na koniec wypada wspomnieć o tym, że nie wszystkim przeszkadzało zamiłowanie narzędzia do goblinów. Z myślą o nich OpenAI postanowiło udostępnić specjalną komendę, która pozwala w pełni usunąć z systemu instrukcje tłumiące wzmianki o tych zielonych stworzeniach – znajdziemy ją we wspomnianej wcześniej publikacji.
0 komentarzy