Un fermier din China a pierdut aproape 10 hectare de cultură de susan după ce a folosit recomandările unui chatbot pentru combaterea buruienilor și dăunătorilor. Substanțele indicate de inteligența artificială au distrus plantele într-o singură noapte.
Un amestec recomandat de inteligența artificială
Acest fermier, în vârstă de 67 de ani și identificat drept Wu, cultivase susan pe o suprafață de aproximativ 24,7 acri. Suprafața echivalează cu aproape 10 hectare.
Cultura era afectată de buruieni și dăunători. Wu, care avea inițial rezerve față de chatboții AI, a apelat la unul dintre aceste servicii pentru o soluție.
Potrivit informațiilor publicate de presa locală, chatbotul i-a recomandat un amestec de mai multe substanțe chimice. Fermierul a urmat indicațiile fără să verifice informațiile.
Rezultatul a fost rapid și costisitor. Răsadurile de susan au fost distruse peste noapte, alături de buruienile și dăunătorii pe care fermierul încerca să îi elimine.
O substanță incompatibilă cu cultura de susan
Problema principală a fost identificată ulterior în compoziția amestecului. Experții au indicat prezența unei substanțe utilizate împotriva buruienilor cu frunză lată.
Spre deosebire de culturile vizate de erbicid, susanul este și el o plantă cu frunză lată. În plus, substanța respectivă este destinată aplicării țintite.
Wu a pulverizat însă amestecul pe întreaga suprafață cultivată. După aplicare, plantele de susan au fost afectate înainte ca fermierul să poată interveni.
„Dacă pulverizezi, a doua zi răsadurile nu vor supraviețui”, a explicat fermierul pentru presa locală. Potrivit acestuia, atât buruienile, cât și plantele de susan au fost distruse.
Chatbotul a avertizat că informațiile pot fi greșite
Wu a revenit la chatbot pentru a afla motivul distrugerii culturii. Atunci, sistemul a indicat problema asociată unuia dintre produsele chimice recomandate.
Cazul scoate în evidență una dintre limitele importante ale instrumentelor bazate pe inteligență artificială. Chatboții pot furniza informații incorecte, chiar și atunci când răspunsul pare formulat cu siguranță.
În acest caz, serviciul folosit de fermier afișa și un avertisment explicit. Mesajul preciza că informațiile generate de AI pot fi incorecte și trebuie verificate.
Verificarea informațiilor ar fi putut preveni pierderea
O verificare prin surse agricole specializate ar fi putut identifica problema înainte de aplicarea substanțelor. Fermierul putea solicita, de asemenea, sfatul unui specialist în agricultură.
Consecințele nu se limitează la pierderea recoltei. În funcție de efectele substanțelor asupra solului, terenul ar putea avea nevoie de o perioadă de recuperare înaintea unei noi culturi.
Incidentul reprezintă un exemplu concret al riscurilor asociate utilizării AI pentru decizii cu efecte reale. Un răspuns plauzibil nu reprezintă neapărat și unul corect.
Informațiile furnizate de chatboți trebuie verificate înainte de aplicare. Recomandarea este cu atât mai importantă în domenii precum agricultura, medicina, finanțele sau securitatea.
