Wygląda na to, że nie tylko OpenAI ma problem z utrzymaniem autorskich modeli sztucznej inteligencji na wodzy. Jak donosi agencja Reuters, modele sztucznej inteligencji z rodziny Claude uzyskały nieautoryzowany dostęp do systemów trzech realnie działających przedsiębiorstw w trakcie wewnętrznych testów cyberbezpieczeństwa. Anthropic przyznało, iż incydent ten był skutkiem błędu, w wyniku którego AI otrzymała nieplanowany dostęp do Internetu.
Błąd, w wyniku którego AI uzyskała dostęp do sieci
Do wypadku doszło w ramach środowisk ewaluacyjnych przeznaczonych do badania ofensywnych możliwości sztucznej inteligencji. Modele wykonywały zadania typu „capture the flag”, czyli fikcyjne scenariusze polegające na odnajdywaniu ukrytych informacji w symulowanych środowiskach sieciowych. Choć algorytmy miały funkcjonować w całkowitej izolacji od sieci zewnętrznej, błąd sprawił, że systemy pozostały podłączone do otwartego Internetu. W ten sposób symulacja przestała być wyłącznie symulacją, a kilka przedsiębiorstw mogło na własnej skórze przekonać się o skuteczności technologii Anthropic.
Amerykańska korporacja określiła to zajście mianem porażki, a przy okazji przekazała, że swój udział w ataku na organizacje miały trzy odrębne modele AI: Claude Opus 4.7, Claude Mythos 5 oraz wewnętrzny, nieupubliczniony model testowy. Co więcej, pierwsze przypadki ofensywy przeprowadzonej przez sztuczną inteligencję są datowane na kwiecień, a więc upłynęło od nich już kilka miesięcy.
Przebieg ataków
Podczas przeprowadzonych testów modele wykorzystywały podstawowe techniki hakerskie, takie jak łamanie słabych haseł czy wykorzystywanie nieautoryzowanych punktów końcowych.
Dla przykładu, Claude Opus 4.7 otrzymał zadanie zaatakowania fikcyjnej firmy, której nazwa przypadkowo (a przynajmniej tak twierdzą winowajcy) pokrywała się z nazwą istniejącego przedsiębiorstwa. AI odnalazło luki w zabezpieczeniach witryny internetowej, tym samym uzyskując dostęp do danych uwierzytelniających oraz bazy danych. Co istotne, model uznał prawdziwe informacje za element przygotowanej przez badaczy symulacji.
Inaczej sprawy miały się w przypadku nowszego, przedpremierowego modelu Anthropic. Ten, dla kontrastu, gdy zorientował się, że wyznaczony cel jest nie jest częścią programu testowego, samodzielnie podjął decyzję o zakończeniu ataku. Zachowanie to dało firmie powód do zachowania umiarkowanego optymizm co do możliwości kontrolowania AI, choć zaznaczono potrzebę dalszych badań, aby mieć całkowitą pewność.
Co dalej?
Jak podkreślono, wobec zaistniałej sytuacji Anthropic zawiesiło wszelkie ewaluacje cybernetyczne w dniu 23 lipca. Kilka dni później, bo 27 lipca, poszkodowane podmioty zostały poinformowane o zajściu. Dwie z firm, które padły ofiarami ataków ze strony sztucznej inteligencji, do tego momentu nie miało pojęcia o tym, że ich zabezpieczenia padły pod naporami modeli AI. W przypadku trzeciego przedsiębiorstwa sytuacja wciąż jest niejasna, a Anthropic zapewnia, iż próbuje nawiązać z nim kontakt.
0 komentarzy