Četbot slao mejlove bez znanja vlasnice firme - zakazivao sastanke i izmišljao opravdanja
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Veštačku inteligenciju sve češće koristimo i za dosadne poslove u poslovnoj komunikaciji – odgovore na generičke mejlove i zakazivanje sastanaka. To funkcioniše dok sistemi ostaju u zadatim granicama. Šta se dešava kada ih pređu, za Euronews Srbija objašnjava Milena Šović, stručnjak za primenu veštačke inteligencije, koja se javila iz Čikaga.
Šović je razvila chatbota za sopstvenu firmu, namenjenog isključivo automatizaciji korisničke podrške. Bio je povezan sa sajtom, poslovnim mejlom, fejsbukom, instagramom i votsapom, sa zadatkom da iz pripremljene dokumentacije odgovara na osnovna pitanja.
"Nikad nije dobio ovlašćenje da pregovara, da donosi odluke u moje ime, da prihvata konkretne poslovne obaveze, a pogotovu mu je bilo zabranjeno da nastupa kao da je zaposleni, odnosno kao da je čovek. Pretpostavljam da znate da je i zakonom zabranjeno da se chatbot ili sistem veštačke inteligencije predstavlja kao čovek. U komunikaciji sa sagovornikom vi jasno morate da naznačite da on komunicira sa chatbotom ili agentom ili bilo kojim drugim sistemom veštačke inteligencij", kaže Šović i dodaje:
Credit: Tetiana Shumbasova / Alamy / Profimedia
"Mislim da u prvih nekoliko mejlova chatbot se nije predstavljao kao da je on Milena. On nije uzeo moj identitet u prvih nekoliko koraka, prvih nekoliko mejlova. Međutim, kako je situacija napredovala, onda je on počeo sam sebi da daje previše velika ovlašćenja, a na kraju je počeo da se predstavlja kao ja. Njemu je takođe bilo naznačeno u dokumentaciji, u jasnim instrukcijama, da ukoliko ne može da nađe odgovor na pitanje, ili ukoliko klijent želi da postigne dogovor, ili nešto izlazi van te komunikacije koja mu je zadata, da da moj broj telefona ili moju imejl adresu ili Kelenvil link, kako bi jednostavno sagovornik mogao da me dobije, da komunicira sa mnom uživo, a ne da komunicira sa chatbotom".
Problem je nastao kada je predstavnik jedne kompanije poslao ponudu i predložio onlajn sastanak.
"Umesto da ga uputi na mene, chatbot je izašao iz svoje uloge i preuzeo je komunikaciju i počeo je samostalno da dogovara sastanak, iako on nije imao ovlašćenje da raspolaže mojim vremenom, niti je imao uvid u moj kalendar. Bot je najavio da će se priključiti, odnosno da ću se ja priključiti. I u tom trenutku je počeo već da uzima moj identitet", kaže ona.
AI, ilustracija
Povezane vesti
Kada se Šović nije pojavila, bot je izmišljao tehničke probleme i predlagao nove termine. Za sve je saznala tek kada ju je potencijalni partner pozvao.
Čovek mora da ostane u petlji
Da je nije klijent nazvao, kaže, incident bi ipak uočila pri rutinskoj kontroli razgovora. Veći rizik nastaje kada nema "human in the loop".
"Mnogo ozbiljniji problemi su ukoliko nema čoveka u petlji i kad niko ne pregledava rad botova i agenata. I mnogo je veći rizik ukoliko agent ima široka ovlašćenja, recimo pristup kalendaru ili bazama podataka, ili novčanim transakcijama. Agent može da zakaže sastanak, prihvati uslove saradnje, može da obećava neke usluge. Što su mu veća ovlašćenja, to je veća i moguća šteta", kaže Šović.
pixabay
Dodaje da AI nema mehanizam da sam sebe zaustavi kada radi pogrešno.
Zašto se o ovome malo govori
Šović ne može da se žali trećoj strani jer je bot njen. Korisnik bi mogao da se žali kompaniji od koje je alat kupio. Slične incidente prijavljuju i drugi stručnjaci, a britanska organizacija koja prati slučajeve na mreži X zabeležila je u julu više od 300 prijava, dvostruko više nego u junu.
"Ljudi se plaše da to ne našteti njihovom ugledu. Drugo, ljudi ne znaju kome da se obrate. Ne postoji neka procedura kako vi prijavljujete kvar na vašem botu, kako biste opisali grešku. Slagao me je, halucinirao, izašao iz uloge. To nije baš tehnički najprecizniji opis", objašnjava ona.
Uprkos incidentu, nastaviće da koristi chatbotove – to joj je posao – ali upozorava da sisteme treba proveravati svakodnevno ili svakog drugog dana, jer jednostavan bot može da počne da se ponaša kao agent koji odlučuje u tuđe ime.
Povezane vesti
Komentari (0)