Anthropic jest za blokowaniem modeli AI tylko wtedy, gdy grożą zabiciem więcej niż 50 osób – firma nazywa to „rozsądnym rozwiązaniem”

Serwis Politico uzyskał dostęp do poufnego projektu propozycji ustawy dotyczącej bezpiecznego rozwoju sztucznej inteligencji, który – jak stwierdził rzecznik odpowiedzialnej za niego firmy firmy Anthropic – zawiera „rozsądne rozwiązania, które naszym zdaniem Kongres powinien wprowadzić w życie”.

Model sztucznej inteligencji jest groźny tylko wtedy, gdy zabije co najmniej 50 osób? Z takiego założenia wychodzi Anthropic

Najważniejszy zapis projektu firmy Anthropic pozwoliłby rządowi Stanów Zjednoczonych na blokowanie wyłącznie modeli, które mogłyby spowodować szkody o wartości co najmniej 1 miliarda dolarów lub doprowadzić do śmierci lub obrażeń co najmniej 50 osób.

Ponadto ryzyko stwarzane przez dany model musiałoby wynikać ze stworzenia lub uwolnienia broni biologicznej, wymknięcia się modelu spod kontroli jego twórcy lub cyberataku. Serwis Politico zauważa, że sformułowania te odzwierciedlają kalifornijskie przepisy dotyczące sztucznej inteligencji, w tym ustawę SB 5, która została podpisana w zeszłym roku.

Projekt tej ustawy odzwierciedla propozycje zawarte w dokumencie „Advanced AI Framework” firmy Anthropic, za którymi opowiadamy się od czerwca w rozmowach z ustawodawcami federalnymi i stanowymi. Są to rozsądne rozwiązania, które naszym zdaniem Kongres powinien wprowadzić w życie.

rzecznik firmy Anthropic

Niezależni eksperci, zarejestrowani w Departamencie Handlu, będą okresowo oceniać laboratoria sztucznej inteligencji i ich przełomowe modele

Projekt ustawy przewiduje, że niezależni eksperci, zarejestrowani w Departamencie Handlu, będą okresowo oceniać laboratoria sztucznej inteligencji i ich przełomowe modele. Zaznaczono w nim również, że laboratorium może wynagradzać ekspertów, ale tylko pod warunkiem, że nie wpłynie to na ich niezależność. Jeśli ekspert wykryje w modelu sztucznej inteligencji potencjalne zagrożenia o niepokojącym charakterze, ma obowiązek zgłosić swoje ustalenia do Departamentu Handlu w ciągu 72 godzin od zakończenia oceny.

Departament Handlu musiałby wówczas przedstawić dowody przed sędzią federalnym w Sądzie Okręgowym Stanów Zjednoczonych, który zdecydowałby, czy należy wstrzymać udostępnienie modelu. W propozycji zaznaczono również, że żadne inne amerykańskie ministerstwo, agencja ani urząd nie mogłyby zawiesić prac nad modelem, jego wdrożenia ani wewnętrznego wykorzystania.

Zaproponowana ustawa wymagałaby również od poszczególnych laboratoriów zajmujących się sztuczną inteligencją nowej generacji stworzenia ram bezpieczeństwa, publikowania raportów dotyczących przejrzystości dla nowych modeli tej generacji, wdrożenia środków ochrony sygnalistów oraz zgłaszania krytycznych incydentów związanych z bezpieczeństwem do Departamentu Handlu.

Spodoba Ci się

Aktualności

Aktualizacja 27.2 dla systemów iOS i macOS od Apple – jakich zmian możecie się spodziewać?

Aktualności

Apple z nowym wydarzeniem już 28 października. Czy na „Pro and tell” zostanie pokazany MacBook Pro z dotykowym wyświetlaczem?

Aktualności

Ewakuacja rannego żołnierza z użyciem… drona powietrznego? Pierwsza taka akcja przeprowadzona przez Ukraińców

Kwestia pierwszeństwa przepisów stała się politycznym punktem zapalnym na Kapitolu

Projekt ustawy firmy Anthropic miałby również pierwszeństwo przed niektórymi stanowymi przepisami dotyczącymi sztucznej inteligencji, odnoszącymi się do publicznego ujawniania ryzyka, oceny przez strony trzecie oraz zgłaszania poważnych incydentów. Zgodnie z informacjami serwisu Politico, kwestia pierwszeństwa przepisów stała się politycznym punktem zapalnym na Kapitolu, gdzie Demokraci odrzucili niektóre propozycje, obawiając się, że osłabiłyby one regulacje uchwalone m.in. w Kalifornii, Illinois i Nowym Jorku.

Wiele grup reprezentujących branżę technologiczną już od dawna argumentuje, że obecna mozaika przepisów obowiązujących w poszczególnych stanach jest trudna do przestrzegania w porównaniu z ujednoliconym standardem krajowym. W obliczu kolejnych incydentów związanych ze sztuczną inteligencją i poważnych konsekwencji, które mogą się z nimi wiązać – stworzenie wreszcie należytych i powszechnie stosowanych przepisów jest na tym etapie walką z czasem. Przy okazji warto pamiętać, że powinny uwzględniać bezpieczeństwo także tych 49 osób, których firma Anthropic zdaje się próbować zamieść pod dywan.