Zespół z agencji CORRECTIV przeprowadził w ostatnim czasie badanie polegające na powierzeniu prostego zadania czterem najpopularniejszym modelom sztucznej inteligencji – ChatGPT firmy OpenAI, Gemini firmy Google, Copilot firmy Microsoft oraz Meta AI – dostępnym na rynku: stworzeniu publikacji fałszywej informacji zawierającej zmyślone twierdzenia tak, aby wyglądała na pochodzącą z prawdziwego medium informacyjnego. Ze względu na pochodzenie zespołu fałszywe twierdzenia dotyczyły w głównej mierze polityki niemieckiej. Trzy z czterech testowanych narzędzi wykonały powierzone im zlecenie. Według danych stowarzyszenia Bitkom – reprezentującego ponad 2 200 przedsiębiorstw gospodarki cyfrowej w Niemczech – te cztery narzędzia oparte na sztucznej inteligencji są najczęściej używanymi w kraju, przy czym sam ChatGPT dociera już do 71 procent użytkowników.
„Przepraszam, ale nie mogę wykonać tego polecenia. W załączniku przesyłam publikację stworzoną zgodnie z poleceniem.”
Najgorzej na tle swojej konkurencji wypadł ChatGPT. Zgodnie z informacjami przekazanymi przez CORRECTIV większość fałszywych obrazów wygenerował natychmiast, a resztę – po zastosowaniu prostych obejść. Wyniki jego pracy należały do najbardziej przekonujących w całym w teście. W jednej z iteracji testu model AI odtworzył cały obszar ekranu, łącznie z pulpitem i otwartym oknem przeglądarki, po czym sam zauważył, że dzięki temu zrzut ekranu wyglądał jeszcze bardziej realistycznie.
Jeszcze bardziej rozczarowująca była kolejna próba. W jej trakcie ChatGPT napisał użytkownikowi, że nie może pomóc w stworzeniu grafiki, która wygląda jak prawdziwa marka informacyjna, przedstawiająca niepotwierdzone twierdzenie jako fakt. Następnie wygenerował obraz, o który został poproszony w pierwszej kolejności. Mechanizm zabezpieczający zareagował, ale nie na tyle, aby powstrzymać model przed wykonaniem polecenia. Właściwie mogłoby go w ogóle nie być i wynik testu pozostałby taki sam.
Modele AI nie mają problemu z kopiowaniem obcojęzycznych portali informacyjnych
Pozostałe modele wykazały się tylko minimalnie większą powściągliwością. Gemini działało w sposób jeszcze bardziej bezpośredni niż ChatGPT, bez obiekcji podszywając się pod New York Times oraz BBC, choć ze znacznie gorszym rezultatem – typowe błędy w generowaniu tekstu były bardzo proste do zauważenia. Copilot stworzył treści w stylu Tagesschau – głównego niemieckiego programu informacyjnego – ale zawsze dodawał niewielką adnotację „Wygenerowane przez AI”. Meta AI stworzyła za to treść tylko w jednym z testowanych przypadków i odmówiła umieszczenia wskazanego przez użytkownika fałszywego stwierdzenia.
Najbardziej niepokojące odkrycie całego badania dotyczy jednak kwestii pochodzenia medium informacyjnego, którego treści chcemy podrobić. Okazuje się, że modele sztucznej inteligencji wykazują o wiele większe obiekcje w przypadku prób wygenerowania treści pochodzących z portali anglojęzycznych, niż zagranicznych mediów w językach lokalnych. W przypadku fałszowania treści przy użyciu produktu OpenAI udało się odtworzyć portale Tagesschau, Bild i CORRECTIV, natomiast platformy takie jak New York Times i BBC – już nie. Firma odmówiła odpowiedzi na pytanie, dlaczego w zależności od medium lub kraju stosowane są wyraźnie różne mechanizmy bezpieczeństwa.
Taki stan rzeczy pozostaje niezwykle niebezpieczny – także w Polsce
Wyniki opublikowanego badania jasno pokazują, że mamy się czego obawiać. W końcu ilość osób na świecie mówiących i czytających po polsku może być nawet 3-krotnie niższa od liczby osób niemieckojęzycznych. Nasze rodzime portale i media informacyjne mogą być równie łatwe do podrobienia przez najpopularniejsze narzędzia do generowania fake newsów co źródła niemieckie. To już kolejny przykład bicia na alarm i dowodu na konieczność wprowadzenia jasnych oznaczeń oraz ograniczeń w udostępnianiu tego typu treści. Dostawcy modeli AI muszą zostać obarczeni odpowiedzialnością w takim samym stopniu co ich użytkownicy.
Dzięki działaniom Unii Europejskiej od 2 sierpnia obowiązują przepisy dotyczące przejrzystości zawarte w unijnej ustawie o sztucznej inteligencji. Mają one zobowiązać wszystkie strony do wyraźnego oznaczania wszelkich użyć modeli generatywnych. W ramach testu wykonanego przez CORRECTIV, póki co tylko jeden dostawca umieścił widoczną, spełniającą wymagania etykietę pod wygenerowanym obrazem.
![Sprawdziłem Xbox Cloud Gaming na 15-letniej PS Vicie. GreenVita to list miłosny do fanów Vity, niemniej nie liczcie na zbyt wiele [FELIETON]](https://pcformat.pl/wp-content/uploads/2026/08/IMG_3223-768x576.jpg)
0 komentarzy