Twórca, a przy okazji jedyny pracownik Klub Kofta Studio, poinformował o nietypowym incydencie z udziałem sztucznej inteligencji Google. Wedle relacji, AI podała jednemu z graczy nazwę niezapowiedzianej jeszcze postaci z gry Operation Octo, a jej pełne imię – według dewelopera – znajdowało się wyłącznie w jednym z plików w usłudze Dokumentów Google. Gigant z Mountain View, zapytany o tę sytuację przez redakcję Polygon, zaprzeczył, jakoby ich modele były trenowane na prywatnych plikach użytkowników, jednak opisywana sprawa wywołała szeroką dyskusję na temat prywatności danych i automatycznych zgód na ich przetwarzanie.
Zaskakująca odpowiedź sztucznej inteligencji
Całe zajście rozpoczęło się w momencie, gdy jeden z graczy przesiadujących na oficjalnym serwerze Discorda Operation Octo zaczął zadawać wyszukiwarce Google wykorzystującej AI żartobliwe pytania na temat gry. Ku zaskoczeniu społeczności i Klub Kofta Studio, narzędzie zaczęło wypluwać odpowiedzi zawierające niezwykle szczegółowe informacje, które, na domiar wszystkiego, nie powinny być jeszcze publicznie dostępne.
Twórca poprosił gracza o zadanie pytań o przyszłą, niezapowiedzianą zawartość. W odpowiedzi AI podała dokładną i niezwykle specyficzną nazwę nowej postaci: „Vantage Tripod”.
Z ciekawości włączyłem się do rozmowy i poprosiłem gracza, by zapytał sztuczną inteligencję o przyszłe elementy zawartości w mojej grze. W jakiś sposób sztuczna inteligencja podała dokładną i bardzo konkretną nazwę postaci „Vantage Tripod”, o której nigdy nikomu nie wspominałem. O ile mi wiadomo, jedynym miejscem, w którym ta informacja istnieje w formie cyfrowej, jest jeden z moich dokumentów w Google Docs, a to NIE byłem ja, kto rozmawiał ze sztuczną inteligencją! (Gracz zadał te pytania nawet w trybie incognito).
Klub Kofta Studio
Deweloper podkreślił, że nazwa ta nigdy nie została ujawniona publicznie, nie istniała w kodzie gry, lokalnych plikach ani nawet w danych udostępnionych na Steamie. Jedynym miejscem w sieci, w którym tytuł ten został zapisany, był prywatny dokument przechowywany na koncie Google za sprawą Google Docs, więc stamtąd też musiał zostać zaczerpnięty.
Stanowisko Google i mechanizmy działania AI
O komentarz do całej sprawy portal Polygon poprosił przedstawiciela firmy Google. Koncern stanowczo zaprzeczył, aby skanował prywatne treści przechowywane w usłudze Google Workspace (w tym na Dysku Google i w Dokumentach) w celu trenowania swoich modeli AI, takich jak Gemini.
Google nie skanuje prywatnych treści w Workspace (w tym w Dysku i Dokumentach) w celu szkolenia naszych podstawowych modeli sztucznej inteligencji (w tym Gemini). Linki do dokumentów udostępnionych publicznie mogą zostać zindeksowane, jeśli ktoś opublikował je w miejscu publicznym, gdzie mogą być widoczne dla robotów indeksujących wyszukiwarek. Użytkownicy mają pełną kontrolę nad ustawieniami udostępniania treści w Dysku (np. Dokumentów).
Google
Według wyjaśnień Google, indeksowanie dokumentów może nastąpić jedynie wtedy, gdy link do nich zostanie wcześniej publicznie udostępniony w sieci i wykryty przez roboty indeksujące wyszukiwarki. Firma przypomniała również, że użytkownicy posiadają pełną kontrolę nad ustawieniami prywatności swoich plików i mogą nimi dowolnie zarządzać. Sam twórca gry zauważył później, że po nagłośnieniu sprawy na forum, zadanie tego samego pytania AI skutkuje podaniem nazwy postaci wraz ze wskazaniem jego wpisu z Reddita jako źródła danych.
Głos społeczności i obawy o prywatność
Incydent wywołał dużą falę krytyki w mediach społecznościowych. Użytkownicy zwrócili uwagę, że giganci technologiczni cicho aktualizują regulaminy i domyślnie włączają zbieranie danych użytkowników na potrzeby AI, wymagając od nich samodzielnego odszukania opcji rezygnacji.
Komentatorzy wyrażają obawy, że tego typu praktyki mogą prowadzić do wycieków danych osobowych lub umożliwiać doxxing poprzez zadawanie AI celowych pytań o prywatne informacje. Przypomniano także, że sekcje podsumowań AI w wyszukiwarce Google mają tendencję do czerpania wiedzy z forumowych wpisów bez ich dokładnej weryfikacji, co bywa wykorzystywane do manipulowania informacjami. Osobiście jestem fanem jednej z wypowiedzi z początków funkcjonowania rzeczonego narzędzia, kiedy to sztuczna inteligencja zaleciła dołożenie kleju do pizzy, aby upewnić się, że ser nie będzie ześlizgiwał się z powierzchni potrawy. Źródłem tej rewelacji okazał się prześmiewczy komentarz na Reddicie i choć człowiek od razu jest w stanie określić, iż został on napisany w formie żartu, tak algorytmy podobną zdolnością nie dysponują.
0 komentarzy