Miał naprawić błąd, a wywołał trwającą kilkanaście godzin awarię. To Kiro, agent AI Amazona, był odpowiedzialny za grudniową awarię AWS

Jeśli gdzieś natkniemy się na jedną z opowieści wieszczących niechybny upadek zawodu programisty, warto przypomnieć sobie mające miejsce w Amazonie w grudniu ubiegłego roku wydarzenie. Kiro, działający w obrębie rzeczonej korporacji agent AI, otrzymał pozornie proste zadanie – naprawienie kilku drobnych błędów zidentyfikowanych w obrębie infrastruktury AWS. Sztuczna inteligencja zabrała się do pracy z nieudawanym entuzjazmem, niemniej efekty jej działań przyniosły rezultaty zgoła inne od zamierzonych. Narzędzie nie tylko nie pozbyło się obecnych problemów, ale dołożyło do tego pokaźną pulę zupełnie nowych bolączek. Uspokojenie sytuacji i przywrócenie stanu pierwotnego Amazon Web Services zajęło inżynierom ponad 13 godzin, a przez cały ten czas dostęp do usługi był utrudniony lub wręcz niemożliwy.

Chociaż historia pochodzi z grudnia, dopiero teraz dowiedziały się o niej media, a dokładniej – redakcja dziennika Financial Times. Z raportu wynika, iż zarzewiem ubiegłorocznych problemów z AWS był wspomniany Kiro, któremu pracownicy Amazona przyznali autonomię i odesłali do pracy na żywym systemie (co akurat było poważnym błędem ze strony ludzi). Agent AI, choć bez wątpienia działający w dobrej wierze, doprowadził do tragicznej w skutkach sytuacji. Fakt faktem zdolności Kiro miały wykraczać poza tradycyjny "vibe coding", niemniej, jak widać, to nie wystarczyło do poradzenia sobie z wyzwaniem.

Inżynierowie, którzy zrzucili swoje obowiązki na narzędzie, tłumaczyli się tym, iż Kiro miał jedynie wdrożyć drobną poprawkę. Zamiast tego, z niewiadomych powodów agent uznał jednak, że lepszym rozwiązaniem będzie usunięcie oraz ponowne utworzenie całego środowiska. Doprowadziło to do wystąpienia złożonej reakcji łańcuchowej, a wyeliminowanie powikłań po niej wymagało wielu godzin pracy, tym razem prowadzonej bez udziału bota.

W wyniku tego zajścia w Amazonie podobno wybuchły dyskusje dotyczące tego, czy sztuczna inteligencja na pewno powinna mieć możliwość działania wedle własnego uznania – wszak jej pomysły niekoniecznie należą do najlepszych, o czym też korporacja przekonała się na własnej skórze. Zazwyczaj przygotowane przez AI poprawki wymagają zatwierdzenia przez eksperta z krwi i kości, aczkolwiek przez to, że Kiro otrzymał uprawnienia analogiczne do tych, którymi dysponują ludzcy specjaliści, felerna zmiana w kodzie została wdrożona bez przestoju.

Sam Amazon zaś postanowił bronić swojego dzieła i w oświadczeniu wydanym Financial TImes stwierdził, że grudniowe kłopoty z AWS były wynikiem "problemu kontroli dostępu użytkowników, a nie autonomii sztucznej inteligencji". Rzecznik przedsiębiorstwa orzekł przy tym, iż udział AI w tym wydarzeniu był czystym zbiegiem okoliczności (co oznacza, że Kiro rzeczywiście przyłożył rękę do kłopotów z Web Services), a podobny błąd równie dobrze mógł zostać popełniony przez człowieka.