O wyłączeniu przez Anthropic najnowszych modeli AI i konsekwencjach tego postępowania pisałem niedawno w felietonie. Najwyraźniej okazuje się, że moje przypuszczenia były słuszne.
Chiński podmiot mógł uzyskać dostęp do Mythos 5
Według informacji serwisu Semafor, Biały Dom wprowadził ograniczenia eksportowe wobec Mythos 5 częściowo dlatego, że podejrzewa dostęp do modelu przez organizację powiązaną z Chinami. Szczegóły sprawy pozostają niejasne – nie wiadomo, w jaki sposób administracja USA dowiedziała się o incydencie, jaka organizacja miała uzyskać dostęp ani czy rzeczywiście doszło do naruszenia bezpieczeństwa.
Ewentualny dostęp chińskich podmiotów do Mythos 5 Waszyngton uznaje za poważne zagrożenie dla bezpieczeństwa narodowego. Obawy dotyczą nie tylko samego dostępu do modelu, lecz także możliwości kopiowania lub odtwarzania jego możliwości poprzez proces określany jako destylacja modeli AI.
Mythos 5 Preview został zaprezentowany przez Anthropic w kwietniu w ramach projektu Project Glasswing i od początku był udostępniany bardzo ograniczonej grupie partnerów. Firma argumentowała, że model dysponuje wyjątkowo zaawansowanymi zdolnościami w zakresie wykrywania luk w oprogramowaniu, co mogłoby zostać wykorzystane zarówno do wzmacniania bezpieczeństwa systemów, jak i przez cyberprzestępców.
Spór o „jailbreak” modelu Fable 5
Równolegle do obaw o chiński dostęp pojawiła się kwestia techniczna. Doradca prezydenta ds. AI i technologii David Sacks ujawnił, że rząd otrzymał informację o możliwości obejścia zabezpieczeń Fable 5 – modelu opartego na Mythos 5, udostępnionego publicznie z dodatkowymi zabezpieczeniami blokującymi jego zastosowanie w cyberatakach. Jailbreak to metoda pozwalająca użytkownikom ominąć takie ograniczenia.
Według Sacksa administracja poinformowała o problemie kierownictwo Anthropic, jednak prezes Dario Amodei miał uznać zagrożenie za nieistotne i odmówić zarówno naprawy rzekomego obejścia, jak i wycofania modelu. Badacze powiązani z Amazonem mieli przeprowadzić ten jailbreak i przekazać informacje administracji – prezes wspomnianej firmy, Andy Jassy, pozostawał według Semafora w bezpośrednim kontakcie z przedstawicielami Białego Domu. Sam Amazon nie potwierdził szczegółów rozmów.
Rzecznik firmy Anthropic przekazał Semaforowi, że podczas rozmów dotyczących jailbreaku i ograniczeń eksportowych Biały Dom nie poruszał wobec firmy kwestii rzekomego chińskiego dostępu do Mythos 5. Anthropic podkreśla, że blokuje korzystanie ze swoich usług z terytorium Chin i uważa, że wykryte obejście zabezpieczeń nie uzasadniało tak daleko idących działań regulacyjnych.
Anthropic wyłącza modele globalnie
W piątek administracja USA wydała Anthropic dyrektywę nakazującą zawieszenie dostępu do Mythos 5 i Fable 5 dla wszystkich obcokrajowców – zarówno poza USA, jak i na terenie kraju, w tym dla pracowników firmy niebędących obywatelami amerykańskimi. Zamiast wdrażać taki system selektywnego dostępu, Anthropic zdecydował się całkowicie wyłączyć oba modele dla wszystkich użytkowników na całym świecie.
Spór między firmą a administracją pozostaje nierozwiązany. David Sacks zadeklarował, że rząd liczy na szybkie usunięcie problemu i zniesienie ograniczeń, natomiast Anthropic nadal kwestionuje zasadność podjętych działań.
0 komentarzy