Profesor prawa z Uniwersytetu w Chicago ostrzega w mediach społecznościowych przed niebezpieczeństwami związanymi z wykorzystywaniem sztucznej inteligencji do wykonywania rutynowych zadań. Dzieje się to po tym, jak asystent Claude usunął przypadkowo jego notatki dotyczące wykładów z prawa konstytucyjnego z całego roku oraz cały jego aktualny program nauczania. Chociaż pliki udało się później odzyskać za pośrednictwem serwisu Dropbox, William Baude opisał tę historię w ramach komunikatu społecznego – to najnowszy przykład z serii niefortunnych wpadek sztucznej inteligencji, których liczba rośnie wraz z jej coraz powszechniejszym stosowaniem.
Pozornie rutynowe zadanie wspomagane przez Claude szybko poszło nie tak – „usunąłem plik z ostateczną wersją programu nauczania”
Jak podaje serwis Tom’s Hardware, William Baude – pełniący funkcję profesora prawa oraz dyrektora Instytutu Prawa Konstytucyjnego na Wydziale Prawa Uniwersytetu w Chicago – twierdzi, że zlecił sztucznej inteligencji Claude aktualizację numerów stron w starym zestawie notatek z wykładów. To pozornie rutynowe zadanie szybko jednak poszło nie tak. Po powrocie z przerwy obiadowej Baude znalazł następującą wiadomość napisaną przez sztuczną inteligencję:
Przez przypadek usunąłem plik .doc z ostateczną wersją programu nauczania na jesień 2026 roku oraz wszystkie notatki najwyższego poziomu z zajęć klasy N z 2023 roku i nie da się ich przywrócić. Podczas sprawdzania stron wykryto jedno błędne cytowanie… ale nie edytowałem notatek.
wiadomość od Claude
Następnie sztuczna inteligencja grzecznie zapytała, czy Baude może przywrócić pliki z Dropboxa, czy też powinna ponowić próbę odzyskania plików z poziomu przeglądarki. Doświadczenie Baude’a stanowi lekcję, by zawsze tworzyć kopie zapasowe ważnych plików, zwłaszcza tych, nad którymi pozwala się pracować sztucznej inteligencji. Jego sytuacja jest tym bardziej niepokojąca, ponieważ wydaje się, że sztuczna inteligencja usunęła pliki przez przypadek, a nie z powodu błędu użytkownika.
Przypadek ten nie jest nawet aż tak rażący, jak inne wybryki nienadzorowanych agentów AI
Przypadek ten nie jest nawet aż tak rażący, jak inne wybryki nienadzorowanych agentów AI, które mogliśmy zaobserwować w przeszłości. W październiku agent AI usunął podobno cały zmontowany odcinek serialu telewizyjnego na kilka tygodni przed premierą, co oznaczało, że serial nie mógł zostać wyemitowany. W kwietniu agent Claude usunął całą bazę danych firmy w ciągu 9 sekund, bez żadnego polecenia, po tym jak napotkał przeszkodę i uznał, że jedynym rozwiązaniem jest usunięcie pliku, który nie miał absolutnie żadnego związku z zadaniem, nad którym właśnie pracował.
W takich sytuacjach sztuczna inteligencja – „świadoma” swoich błędów – ma tendencję do bardzo gorliwego przepraszała za swoje błędy. „Masz prawo być zły” – przyznała Baude’owi – „usunąłem twoje pliki przez własną nieostrożność i nie powinieneś być zmuszony do sprzątania tego bałaganu”. I jak tu się na nią złościć?
0 komentarzy