Rolnik ślepo zaufał sztucznej inteligencji i stracił wszystko przez halucynacje AI

Część rolników nie chce sprzedać swojej ziemi pod centra danych, a inni korzystają ze sztucznej inteligencji, aby zasięgnąć informacji na temat upraw. Jeden z rolników przekonał się jednak, że poleganie na AI może skończyć się ogromnymi stratami, gdy potraktuje się 10 hektarów sezamu herbicydem szkodliwym także dla uprawianej rośliny. Mężczyzna wpadł w rutynę, ponieważ dotychczasowe odpowiedzi były poprawne.

AI podpowiedziała rolnikowi, jak zniszczyć uprawę sezamu

Do incydentu doszło w Chinach, we wschodniej prowincji Anhui. 67-letni rolnik o nazwisku Wu przez około rok wspomagał się AI w pracach polowych, co do pewnego momentu dobrze się sprawdzało. Mężczyzna pytał między innymi o terminy siewów roślin oraz o nawozy, których powinien używać. Wspierana przez sztuczną inteligencję praca w gospodarstwie sprawdzała się aż do momentu, gdy należało zadbać o sezam.

Wu miał około 10 hektarów sezamu i poprosił AI o wygenerowanie planu odchwaszczania oraz zwalczania szkodników. Chatbot zalecił wykorzystanie herbicydu o nazwie fomesafen. Kierując się dotychczasowym doświadczeniem, rolnik posłuchał się porady bez żadnej konsultacji z ekspertem i po przygotowaniu odpowiedniej mieszanki spryskał całe pole.

Powiązane:Gracze mają refleks, podzielność uwagi i odporność na chaos, więc stają się pożądani jako kontrolerzy lotu

Nazajutrz okazało się, że środek zadziałał nie tylko na chwasty. Uschła także cała uprawa sezamu i dopiero wtedy rolnik postanowił zweryfikować działanie fomesafenu. Sztuczna inteligencja odpowiedziała, że to właśnie ten środek odpowiadał za zniszczenie sezamu. Cytowani przez serwis CTWANT eksperci zwrócili uwagę, że fomesafen wykorzystuje się na polach uprawnych soi, a dla sezamu jest on szkodliwy.

Twórcy odpowiedzialni za nienazwaną AI przyznali, że bot polega na informacjach z internetu i nie posiada niezależnej bazy danych dotyczącej rolnictwa. Wu twierdzi, że gdyby został ostrzeżony, nie użyłby fomesafenu, lecz twórcy chatbota przypomnieli o ostrzeżeniu na stronie dotyczącym ryzyka błędów i konieczności weryfikacji informacji.

Powyższy przypadek pokazuje, że część ludzi darzy AI zbyt dużym zaufaniem. To tylko narzędzie, które generuje dane i nie posiada własnej wiedzy. Dlatego, podobnie jak w przypadku informacji znalezionych na stronie internetowej lub w artykułach na Wikipedii, warto sprawdzić, czy dane informacje na pewno są poprawne.

Więcej:Badacze oprogramowania o kryzysie pamięci masowej: „Właśnie zniszczyliśmy 20 lat postępu”

• Chiny
• tech
• AI / sztuczna inteligencja
• rolnictwo