Agenci AI w Windowsie 11 idą w parze z zupełnie nowymi zagrożeniami. Microsoft jest świadom problemu, ale nic z nim nie zamierza robić
Microsoft zadecydował, iż Windows 11 przekształci się w system bazujący na sztucznej inteligencji oraz agentach, a plan tez zostanie zrealizowany – nawet kosztem bezpieczeństwa i komfortu użytkowników. Korporacja jest świadoma tego, że implementacja takiej technologii w systemie wiąże się z zupełnie nowymi zagrożeniami, niemniej na razie nic z tym fantem nie ma zamiaru zrobić.
Windows 11 zmierza w stronę, która wielu posiadaczom pecetów się nie podoba. Jak dowiedzieliśmy się na początku jesieni, rzeczony system otrzyma tonę funkcji opartych na sztucznej inteligencji, a pierwsze z nich, wykorzystujące agentów, trafiły już do testów. Krytyka użytkowników, jak zażarta by nie była, nie jest przy tym jedynym, co powinno skłonić Microsoft do ponownego rozważenia swoich planów w kontekście upychania AI w Windowsie. Owi agenci, jak firma sama przyznała, "napotykają ograniczenia funkcjonalne w zakresie swojego zachowania, a czasami mogą mieć halucynacje i generować nieoczekiwane wyniki". W skrócie – świeża opcja może sporo namieszać na komputerze.
Agenci AI w Windowsie to zagrożenie, ale Microsoft się nie przejmuje
Na stronie wsparcia Microsoftu pojawił się obszerny artykuł poświęcony tytułowym agentom AI. Prócz wyjaśnienia, czym w zasadzie są i do czego możemy ich wykorzystać (co opisywaliśmy już w przeszłości na łamach PC Formatu), w tekście znalazł się również przyciągający wzrok ustęp opatrzony nagłówkiem "Dlaczego bezpieczeństwo jest ważne". Nazwa ta może nieco wprowadzać w błąd, jako że rzeczone bezpieczeństwo użytkowników wcale dla korporacji ważne nie jest. Gdyby tak było, implementacja kontrowersyjnej funkcji zostałaby wstrzymana do momentu wyeliminowania wszelkich trapiących ją bolączek i podatności.
Zamiast tego, Microsoft postanowił kontynuować jej wdrażanie, wychodząc przy tym z założenia, iż "zapewne wielu z was zginie, ale jest to poświęcenie, na które jestem gotowy". Jak możemy przeczytać w napomkniętym wpisie:
Ponadto agnetyczne aplikacje AI wprowadzają nowe zagrożenia dla bezpieczeństwa, takie jak cross-prompt injection (XPIA), gdzie złośliwe treści osadzone w elementach interfejsu użytkownika lub dokumentach mogą zastąpić instrukcje agenta, prowadząc do niezamierzonych działań, takich jak wyciek danych lub instalacja złośliwego oprogramowania. Zalecamy zapoznanie się z tymi informacjami i zrozumienie konsekwencji dla bezpieczeństwa wynikających z włączenia agenta na komputerze.
Gigant z Redmond zapewnił, że zobowiązuje się do zapewnienia "solidnych zabezpieczeń" i kontroli prywatności, niemniej nie da się przewidzieć wszystkich potencjalnych scenariuszy. Szczególnie niebezpieczne zdają się wspomniane XPIA, które mogą nakłonić pracujących agentów do zmiany zachowania. Biorąc pod uwagę, że sztuczna inteligencja ma dostęp do wielu ważnych folderów na komputerze, m.in. dokumentów i obrazów, wprowadzony na manowce agent jest w stanie wyrządzić znaczne szkody.
Amerykańskie przedsiębiorstwo przekonuje, iż agenci nie są w stanie samodzielnie podejmować decyzji co do rozpoczęcia realizacji zadania, a pełnię możliwości w tym zakresie posiada wyłącznie użytkownik. Wszystkie wykonywane przez AI działania są obserwowalne i łatwe do odróżnienia od czynności prowadzonych przez ludzi. Co więcej, agenci zbierający dane lub z nimi w jakiś sposób pracujący, "spełniają lub przewyższają standardy bezpieczeństwa i prywatności danych, które konsumują".
Jako że funkcja nie została dopuszczona do oficjalnej dystrybucji, na pierwsze wyniki zabezpieczeń Microsoftu przyjdzie nam nieco poczekać. Niewykluczone jednak, że najbliższe miesiące będą obfitowały w doniesienia nt. podejrzanie zachowujących się agentów AI w Windowsie 11.
Jakub Dmuchowski, redaktor pcformat.pl
