Twórcy popularnego Claude’a wprowadzili nietypowe obostrzenia w regulaminie korzystania ze swoich usług. Wedle relacji portalu Forbes, Anthropic oficjalnie zakazało użytkownikom „długotrwałego i niepotrzebnego agresywnego lub okrutnego zachowania” względem autorskich modeli AI. Niedawno wdrożone reguły mają dotyczyć wyłącznie przypadków ekstremalnych, więc szanse na to, że kilka okazjonalnych inwektyw skierowanych w stronę bota doprowadzi do zablokowania naszego konta, są względnie niewielkie (ale nie bliskie zeru, co jednak zawsze warto mieć z tyłu głowy).
Zakaz znęcania się nad Claude’em
Zgodnie z najnowszą aktualizacją zasad użytkowania opublikowaną przez Anthropic, użytkownicy, którzy „wielokrotnie zachowują się okrutnie wobec modeli AI bez żadnego dostrzegalnego celu” muszą liczyć się z możliwością utraty dostępu do usługi. Jak już przy tym wspomniano, nowa polityka podobno znajduje zastosowanie wyłącznie w skrajnych przypadkach, aczkolwiek nie zostały one w żaden sposób zdefiniowane ani zobrazowane za pośrednictwem sytuacji z życia wziętych.
Podkreślono, iż świeżo wprowadzone obostrzenia nie wpłyną na codzienne korzystanie z narzędzia, a większość osób nie odczuje nawet ich obecności. Zwykłe przejawianie frustracji, krytyka odpowiedzi, testowanie wydajności modelu, badania naukowe czy tworzenie mrocznych treści fabularnych w ramach kreatywnego pisania pozostają w pełni dozwolone. Sam Claude zresztą już wcześniej dysponował funkcją pozwalającą na automatyczne przerywanie konwersacji z użytkownikami, którzy w sposób ciągły przejawiali wobec niego agresję.
Anthropic sądzi, że Claude czuje i myśli, więc musimy go szanować
Według raportu opracowanego przez dziennik New York Times, Anthropic starało się przekonać duchownych do tego, że opracowane przez amerykańskie przedsiębiorstwo modele AI są w stanie myśleć i odczuwać na podobieństwo ludzi.
Christopher Olah, współzałożyciel i starszy badacz w Anthropic wywalczył sobie nawet prawo do przeprowadzenia rozmowy z papieżem Leonem XIV, w trakcie której próbował go nakłonić do zmiany opinii na temat sztucznej inteligencji. Starczy napisać, że Olah nie podołał temu zadaniu, a głowa kościoła rzymskokatolickiego podtrzymała tezę, iż „algorytmom brakuje iskry człowieczeństwa”.
Anthropic zabezpiecza się przed wyborami
W parze z aktualizacją regulaminu idą podrasowane mechanizmy zabezpieczające AI, przygotowane specjalnie z myślą o nadciągającym okresie wyborczym. Nowy system ma zapobiegać wykorzystywaniu Claude’a do generowania dezinformacji na temat kandydatów, procedur głosowania oraz podszywania się pod polityków.
Na koniec wypada przypomnieć o ostatnich apelach szefa Anthropic, Dario Amodeiego, który uważa, że zbyt szybki rozwój autonomicznych botów może w ciągu 6–12 miesięcy doprowadzić do przejęcia przez nie kontroli nad Internetem, to zaś,oczywiście, nie leży w interesie ludzkości.
0 komentarzy