Rolnik stracił 10 hektarów upraw przez poradę sztucznej inteligencji. Sezam przegrał w starciu z pomysłem AI

67-letni rolnik z Chin poniósł ogromne straty po tym, jak skrupulatnie zastosował się do porad dotyczących oprysków. Problem w tym, iż w roli doradcy obsadzona została sztuczna inteligencja, co zakończyło się tragedią zarówno dla samego mężczyzny, jak i uprawianego przez niego sezamu. Jak podaje redakcja Tom’s Hardware, zalecona przez algorytm mieszanka chemikaliów doprowadziła do natychmiastowego obumarcia 150 mu (ok. 10 hektarów/25 akrów) siewek rośliny. Incydent ten jest jednym z pierwszych udokumentowanych przypadków, w których błędna porada AI przyniosła bezpośrednie i tak dotkliwe konsekwencje w świecie rzeczywistym. Wniosek płynący z tego wydarzenia jest zaś prosty – nie ufajcie ślepo propozycjom przytoczonym przez czatboty.

Ślepe zaufanie do AI skończyło się katastrofą

Wedle relacji, mieszkający w Chuzhou w Chinach 67-letni pan Wu korzystał z bliżej nieokreślonego modelu AI od roku. Choć początkowo podchodził do rad udzielanych przez sztuczną inteligencję z uzasadnionym sceptycyzmem, tak seria pomocnych podpowiedzi sprawiła, iż z biegiem czasu zaczął ufać technologii i zrezygnował z weryfikacji przedstawianych przez nią rewelacji.

Gdy rolnik poprosił AI o poradę w walce z chwastami i szkodnikami w uprawie sezamu, system przygotował plan oprysków, zalecając wymieszanie kilku substancji chemicznych – w tym środka o nazwie flusulfasulfaether. Wu zastosował się do instrukcji co do joty, nie dając większego baczenia na skład preparatu i nie konsultując go ze specjalistami ds. agrotechniki.

Skutki zaleconej przez AI „terapii” okazały się natychmiastowe. Już następnego dnia po oprysku zginęły nie tylko chwasty, ale również wszystkie siewki sezamu na powierzchni 150 mu. Jak zauważył rolnik podczas wywiadu, uprawiana roślina poległa w starciu z substancją nawet szybciej niż chwasty, które jako jedyne miały zostać wyeliminowane.

AI przeprosiła i po sprawie

Po katastrofie rolnik dopytał AI, co mogło być przyczyną zniszczeń. System sam zasugerował, że problemem mógł być właśnie ów flusulfasulfaether. Eksperci ds. rolnictwa wyjaśnili, że substancja ta jest stosowana do zwalczania chwastów szerokolistnych na polach soi. Jako że sezam sam należy do grupy roślin szerokolistnych, silny herbicyd zniszczył również samą uprawę. Fakt faktem chwasty także, niemniej nie jest to duże pocieszenie.

Spodoba Ci się

Aktualności

„Sztuczna inteligencja nie tworzy jej od zera”. Szef studia Shift Up broni kontrowersyjnego teledysku z bohaterką Stellar Blade: Blood Rain

Aktualności

Polacy na podium Międzynarodowej Olimpiady Sztucznej Inteligencji! 3. miejsce na świecie i 8 medali

Aktualności

Modele sztucznej inteligencji, takie jak ChatGPT i Gemini, nie mają skrupułów w tworzeniu fake newsów – tym bardziej, jeśli rozmawiasz z nimi po polsku

Co więcej, z biegiem czasu wyszło na jaw, iż zaproponowany preparat przeznaczony jest wyłącznie do oprysków punktowych w miejscach pojawienia się chwastów, a nie do masowego rozpylania na całym obszarze pola. Istotne jest przy tym to, iż algorytmy podobno przekazały rolnikowi bezpośrednie ostrzeżenie o prawdopodobnie niepoprawnej odpowiedzi (a przynajmniej na to wskazuje zapis rozmowy prowadzonej z dużym modelem językowym), niemniej ten przekonuje, że nic takiego nie miało miejsce.

Przestroga przed wymysłami sztucznej inteligencji

Opisany przypadek stanowi dobitne przypomnienie o tym, iż nawet najbardziej zaawansowane modele sztucznej inteligencji są w stanie popełniać błędy. Nie sposób polemizować ze stwierdzeniem, że AI jest przydatnym narzędziem, niemniej pokładanie w nim ślepej wiary może nieść ze sobą poważne konsekwencje. Wypada też wspomnieć, iż twórcy rzeczonej technologii nie wezmą odpowiedzialności za potencjalne szkody na swoje barki – właśnie dlatego interfejsy poszczególnych aplikacji zawierają ostrzeżenia dotyczące możliwych pomyłek.