Da li je upotreba veštačke inteligencije "mač sa dve oštrice"? Eksperti upozoravaju na nove rizike koje donosi AI

Veštačka inteligencija više nije tema budućnosti, ona već danas utiče na način na koji radimo, komuniciramo i donosimo odluke. Istovremeno, otvara brojna pitanja o bezbednosti, odgovornosti i granicama tehnologije koja se razvija brže nego ikada. O tome koliko smo spremni za izazove digitalnog doba za Euronews Srbija govorili su predsednik udruženja ISACA Beograd, Zoran Zlokalica, i član ISACA Hall of Fame i glavni tehnološki direktor kompanije DXC Technology, Ramzes Galjego.

Povod za razgovor bila je međunarodna konferencija održana u Beogradu, na kojoj su se okupili eksperti iz oblasti tehnologije, sajber bezbednosti i upravljanja rizicima.

"Beograd je bio centralno mesto okupljanja eksperata koji se bave tehnologijom i njenom odgovornom primenom. Naša uloga je da pomognemo da se veštačka inteligencija koristi na bezbedan i odgovoran način", rekao je Zoran Zlokalica.

On je istakao da su ključne teme konferencije bile identifikacija rizika i uspostavljanje okvira za upravljanje novim tehnologijama.

"Veštačka inteligencija donosi ogromne benefite, ali i potpuno nove rizike. Moramo da postavimo pitanje ko će biti odgovoran ako AI model donese pogrešnu odluku. Zato je neophodno da kompanije uspostave sistem upravljanja tehnologijama i rizicima“, naglasio je Zlokalica.

Euronews Srbija

AI tehnologija "mač sa dve oštrice"

Govoreći o izazovima koje AI donosi, Ramzes Galjego opisao je ovu tehnologiju kao "mač sa dve oštrice“.

"Veštačka inteligencija može da ubrza razvoj i unapredi gotovo svaku profesiju, ali moramo da postavljamo prava pitanja pravim ljudima u pravo vreme. AI zavisi od podataka, ako su podaci loši, dobićemo lošu veštačku inteligenciju“, upozorio je Galjego.

Dodao je da će u narednom periodu biti neophodno donošenje jasnih propisa i pravila.

"Moramo da razumemo etičke aspekte, ograničenja i nivo transparentnosti AI sistema. Kao što je internet promenio svet, tako će i veštačka inteligencija promeniti gotovo sve“, rekao je on.

Jedna od tema razgovora bila je i upotreba generativnih AI alata među mladima i potencijalni uticaj na obrazovanje i razvoj dece.

"Dobro je što je tehnologija dostupna, ali ništa nije besplatno. Mi zapravo plaćamo svojim podacima i informacijama. AI može da napiše domaći zadatak, ali ne smemo svaki odgovor prihvatati kao konačan. Čovek mora da proveri, revidira i unapredi ono što mašina generiše“, rekao je Zlokalica.

Euronews Srbija

Govoreći o sajber bezbednosti, sagovornici su ocenili da AI danas podjednako koriste i stručnjaci za zaštitu sistema i sajber kriminalci.

"Algoritmi mogu da prepoznaju obrasce ponašanja napadača i pomognu da se ranjivosti otkriju mnogo brže. Međutim, istu tehnologiju koriste i sajber kriminalci", rekao je Galjego.

Zlokalica je dodao da najveći problem nastaje kada kompanije ne prepoznaju rizike na vreme.

"Ako ne upravljate rizicima, nećete ih ni identifikovati. To je kao kada ne odlazite kod lekara mislite da ste zdravi dok se problem ne pojavi", objasnio je on.

Posebno je istaknuta važnost "digitalne higijene", odnosno odgovornog ponašanja korisnika na internetu.

"Najveća vrednost svake kompanije danas je informacija. Veštačka inteligencija može da obradi ogromne količine podataka i pomogne u donošenju odluka, ali ljudi moraju ostati uključeni u proces“, rekao je Zlokalica.

Euronews Srbija

Sagovornici su upozorili i na rast broja internet prevara, posebno lažnih oglasa i zloupotrebe identiteta poznatih ličnosti uz pomoć AI tehnologije.

"Ranije je za kreiranje lažnih oglasa bilo potrebno mnogo više vremena i resursa. Danas, uz pomoć veštačke inteligencije, takve prevare nastaju mnogo brže i postaju sofisticiranije“, upozorio je Zlokalica.

Galjego je naglasio da korisnici moraju da razviju naviku proveravanja informacija pre nego što reaguju.

"Razmislite pre nego što kliknete. Sajber kriminalci računaju na osećaj hitnosti i žele da reagujete odmah. Upravo zato treba zastati i proveriti informacije“, poručio je on.

Koje profesije će najviše biti pod uticajem AI-ja?

Tema razgovora bile su i profesije koje će veštačka inteligencija najviše promeniti.

"Sve što može da bude automatizovano biće pod velikim uticajem AI-a, poslovi koji podrazumevaju administraciju, korisničku podršku i rutinske procese već sada se menjaju“, rekao je Galjego, pozivajući se na izveštaje Svetskog ekonomskog foruma.

Ipak, uprkos rizicima, sagovornici ocenjuju da budućnost može biti pozitivna ukoliko razvoj tehnologije bude praćen odgovornošću i pravilima.

"Veštačka inteligencija jeste revolucionarna tehnologija i budućnost je već stigla. Potrebno je samo da se pobrinemo da se koristi na pravi način“, zaključio je Galjego.

Na kraju razgovora, Zlokalica je podsetio da je Beograd domaćin i dodatnih stručnih skupova ISACA zajednice, na kojima eksperti iz Evrope razgovaraju o digitalnom poverenju, regulativi i bezbednoj primeni novih tehnologija.

Kompletano gostovanje pogledajte u videu iznad teksta.