Mieszkanka Florydy wykorzystywała rozmowy z Claude jako pamiętnik – firma Anthropic zgłosiła jej wpisy na policję

To jedna z tych historii, które idealnie przedstawiają prawdziwą naturę naszych rozmów z dostępnymi na rynku modelami sztucznej inteligencji. Choć coraz więcej osób może o tym zapominać i traktować chociażby Claude’a jak swojego przyjaciela, to nie jest i nigdy nie będzie on naszym zaufanym powiernikiem, z którym dzielić można wszystkie swoje sekrety. Przekonała się o tym niedawno mieszkanka stanu Floryda, która została właśnie oskarżona o popełnienie przestępstwa po tym, jak wykorzystywała swoje rozmowy z modelem firmy Anthropic jako pamiętnik – rzekomo napisała w nim, że planuje „rozstrzelać” biuro szeryfa. Wpisy zostały następnie przeanalizowane przez prawdziwych ludzi i zgłoszone policji.

Anthropic może udostępniać informacje o użytkownikach Claude’a w sytuacjach nadzwyczajnych

Serwis TechSpot podaje, że zgodnie z protokołem zatrzymania Carli Michelle Heller z Bonita Springs w stanie Floryda napisała do Claude’a 26 września, że zamierza zaatakować biuro szeryfa. Później stwierdziła, że korzysta z chatbota firmy Anthropic niczym z pamiętnika. Systemy bezpieczeństwa firmy odpowiadającej za chatbota wykryły ten wpis, a sprawa została przekazana do oceny przez człowieka. Po stwierdzeniu, że wpisy te mogą być realnym zagrożeniem, osoba ta zgłosiła sprawę organom ścigania.

Anthropic twierdzi, że może udostępniać informacje o użytkownikach Claude’a w ograniczonych sytuacjach nadzwyczajnych, jeśli uzna, że ujawnienie tych danych jest konieczne, aby zapobiec śmierci lub poważnym obrażeniom fizycznym. Funkcjonariusze policji zidentyfikowali Heller i udali się do jej domu. Została zatrzymana bez żadnych dodatkowych incydentów, a następnie śledztwo przejęło biura szeryfa hrabstwa Lee.

Sztuczna inteligencja to potężne narzędzie i, podobnie jak każda technologia, może być nadużywana. Kiedy ktoś wykorzystuje sztuczną inteligencję do sformułowania lub ułatwienia realizacji groźby, musimy potraktować tę groźbę poważnie. (…) Sztuczna inteligencja może zmieniać sposób, w jaki powstają zagrożenia, ale nasze zaangażowanie w ochronę mieszkańców hrabstwa Lee pozostało niezmienne.

szeryf Carmine Marceno

Czyn ten kwalifikuje się jako pisemna groźba użycia przemocy – ktoś mógł zapoznać się z wpisami Heller

Carli Michelle Heller postawiono zarzut pisemnej groźby użycia przemocy zgodnie z prawem stanu Floryda. Zgodnie z artykułem 836.10 Kodeksu Stanowego Florydy wysłanie, opublikowanie lub przekazanie zapisu w formie pisemnej lub elektronicznej zawierającego groźbę zabicia lub zranienia kogoś, przeprowadzenia masowej strzelaniny lub popełnienia aktu terroryzmu stanowi przestępstwo drugiego stopnia. Komunikat ten musi zostać przekazany w sposób umożliwiający jego zapoznanie się przez inną osobę.

Spodoba Ci się

Aktualności

Sony po cichu wprowadza kolejną rewizję PlayStation 5 Slim – ulepszone chłodzenie, zmiany w płycie głównej i wymienna bateria CR2032

Aktualności

Star Wars: Galactic Racer jest przepiękne, ale Unreal Engine 5 znowu daje o sobie znać [RECENZJA TECHNICZNA]

Aktualności

Gracz przeniósł peceta z RTX-em 4090, a z karty odpadł fragment radiatora. Naprawę wyceniono na ponad 400 dolarów

Być może to właśnie pozorna jednostronność i prywatność rozmowy z modelem sztucznej inteligencji Claude – maszyną – skłoniła Heller, do dzielenia się niepokojącymi stwierdzeniami. System flagowania tego rodzaju wiadomości i możliwość szybkiego sprawdzenia ich przez inne osoby sprawiły jednak, że nie można rozpatrywać jej zapisów jako zwykłych notatek we wspomnianym już wcześniej pamiętniku. To dobry moment na zwrócenie uwagi, że zawsze powinniśmy mieć świadomość tego, czym tak właściwie są (lub nie są) narzędzia, z których korzystamy na co dzień i jakie konsekwencje niesie za sobą traktowanie ich w nieprzemyślany sposób.