"To nigdy nie było narzędzie do użytku dla konsumentów" - Google wycofuje model AI z aplikacji, a senator oskarża go o zniesławienie

Narzędzia AI są z nami w tym momencie niemal wszędzie i nie jest tajemnicą, że często zdarza się im zmyślać, gdy zapytamy je o coś, czego nie do końca wiedzą. Sytuacja może przybrać jednak dość dramatyczny obrót i przekonało się o tym Google, które musiało wycofać swój model AI o nazwie Gemma z aplikacji Google AI Studio, bo zaczął on wymyślać kłamstwa i stawiać fałszywe zarzuty wobec republikańskiej senator Marshy Blackburn.

Senator wystosowała list do CEO Google – Sundara Pichaia – w którym ze szczegółami opisała, w jaki sposób Gemma oskarżała ją o rzekome stosunki seksualne z funkcjonariuszem policji stanowej podczas kampanii do Senatu w 1987 roku. Gemma miała też podać linki do wymyślonych artykułów i newsów, które uwiarygadniały historię stworzoną przez AI. Podobno w tej historii nie zgadzało się nic, a AI zmyśliło nawet rok wyborów, bo te miały miejsce w 1998, nie 1987 roku. Swój list podsumowała słowami "Wyłączcie to, dopóki nie nauczycie się nad tym panować".

Google co prawda nie odpowiedziało bezpośrednio na te doniesienia, ale niedługo po publikacji listu zakomunikowało na X, że "widziało doniesienia mówiące o tym, że osoby niebędące deweloperami" korzystały z Gemmy w ramach AI Studio i pytały model o różne rzeczy. Firma podkreśliła, że AI Studio nie służy do takich czynności "zwykłym" konsumentom i jest platformą przeznaczoną dla deweloperów. Co więcej, Gemma jest modelem przeznaczonym ściśle do wykorzystywania w sektorach medycznych, do programowania oraz do oceny bezpieczeństwa tekstu i obrazów.

Gigant z Mountain View podkreślił wyraźnie, że Gemma nigdy nie miała być używana, jako narzędzie dla konsumentów oraz do odpowiadania na merytoryczne pytania. Żeby uniknąć dalszych problemów i podobnych pytań ze strony np. polityków, Google podjęło decyzję o usunięciu Gemmy z AI studio. Model AI nadal będzie jednak dostępny dla deweloperów poprzez API.

Choć całe to zajście brzmi dość groźnie, to trzeba uczciwie przyznać, że Pani senator faktycznie korzystała z narzędzia dla programistów, które nie jest przeznaczone do wykorzystywania go w ten sposób, co ChatGPT czy Google Gemini. W związku z tym odpowiedzi, które uzyskała raczej nie da się zreplikować w "normalnych" aplikacjach służących do czatowania z AI.