Stručnjaci upozoravaju: Razvoj veštačke inteligencije brži od regulatornog okvira

U Beogradu je danas otvorena međunarodna konferencija “Upravljanje veštačkom inteligencijom: od rizika do strateške prednosti“, u organizaciji profesionalnog Udruženja ISACA Beograd. Konferencija okuplja više od 100 međunarodnih i regionalnih eksperata iz više od 15 zemalja sveta iz oblasti IT upravljanja, sajber bezbednosti i digitalnih rizika.

Preko 65 odsto velikih kompanija već koristi veštačku inteligenciju (AI) u poslovanju, dok je više od 70 odsto u fazi testiranja ili implementacije. Procene ukazuju da bi do 2030. godine AI mogla da postane standardna komponenta gotovo svakog poslovnog softvera.

Uprkos ubrzanom usvajanju tehnologije, stručnjaci upozoravaju da rizici rastu paralelno sa njenom primenom. Među ključnim izazovima izdvajaju se zloupotrebe i manipulacije podacima, pristrasne i pogrešne odluke algoritama, gubitak privatnosti, nejasna odgovornost za greške sistema, kao i prekomerno oslanjanje na automatizovane odluke u kritičnim procesima.

Promo/ISACA Beograd

Poseban izazov predstavlja činjenica da regulatorni okvir i dalje zaostaje za brzinom razvoja tehnologije, što otvara brojna pravna i etička pitanja u vezi sa odgovornošću, nadzorom i granicama primene veštačke inteligencije.

"Dok kompanije ubrzano uvode veštačku inteligenciju u svoje procese, istovremeno raste potreba za stručnjacima koji razumeju upravljanje rizicima i bezbednu primenu ovih tehnologija. U Srbiji i dalje postoji nedostatak sertifikovanih kadrova koji mogu da prate kompleksnost AI sistema i savremene standarde upravljanja digitalnim rizicima. Udruženje ISACA Beograd kroz programe profesionalnog usavršavanja i međunarodno priznate sertifikacije jača kompetencije svojih članova i šire IT zajednice. Razvoj ovih kompetencija ima ključnu ulogu u jačanju profesija budućnosti, uključujući oblasti veštačke inteligencije, sajber bezbednosti, privatnosti podataka, revizije i upravljanja rizicima", izjavio je Zoran Zlokolica, predsednik Udruženja ISACA Beograd.

Dodao je da je industrija veštačke inteligencije još u ranoj fazi razvoja, što otvara prostor za zemlje poput Srbije da se bolje pozicioniraju na globalnoj mapi, uz istovremeni razvoj stručnih kadrova i upravljačkih okvira.

Na konferenciji je ocenjeno i da veštačka inteligencija ima dvostruku ulogu u sajber bezbednosti - koristi se i za unapređenje zaštite sistema, ali i za razvoj sve sofisticiranijih hakerskih napada koji se sve više automatizuju i prilagođavaju konkretnim ciljevima, što dodatno povećava kompleksnost upravljanja digitalnim rizicima.

Promo/ISACA Beograd

Ramzes Galjego (Ramsés Gallego), član ISACA Hall of Fame i glavni tehnološki direktor kompanije DXC Technology ocenio je da veštačka inteligencija predstavlja "dvosekli mač" zbog svoje moći i potencijalnih rizika, ističući potrebu za jasnim politikama, procedurama, protokolima i procesima za upravljanje AI sistemima. „Prepustite mašinama da rade posao, ali nemojte zaboraviti da budete ljudi. Cenimo ogromne koristi koje algoritmi donose, ali ljudski nadzor, odnosno ‘čovek u procesu odlučivanja’, i dalje je apsolutno neophodan kako bi korist od veštačke inteligencije bila veća“, poručio je Galjego.

„Svet se nalazi na prekretnici i potrebno je ulagati u pouzdanu veštačku inteligenciju, jer način na koji se danas razvija i koristi AI oblikovaće budućnost. Veštačka inteligencija je već strukturna ekonomska sila koja menja industrije i profesije, ali istovremeno donosi i nove rizike. Kompanije se suočavaju sa nedostatkom veština i potrebom da istovremeno grade inovacije i poverenje korisnika, zbog čega je ključno jačati znanja i kapacitete za upravljanje AI rizicima“, zaključio je Kris Dimitrijadis (Chris Dimitriadis), glavni direktor za globalnu strategiju u ISACA.

On je ocenio da će prednost u narednom periodu imati oni koji se brže prilagode novim tehnologijama, ističući da ISACA Beograd već deset godina doprinosi profesionalnom razvoju i jačanju kompetencija. Kako je navedeno, ovakvi događaji doprinose razvoju lokalne ekonomije, jačanju poverenja i inovacija, kao i povezivanju akademske zajednice, industrije i institucija kroz razmenu međunarodnih iskustava.

Međunarodnu konferenciju organizuje Udruženje ISACA Beograd, ogranak globalnog profesionalnog udruženja koje okuplja skoro 200.000 stručnjaka širom sveta, sa ciljem da omogući razmenu međunarodnih znanja i iskustava u oblastima IT upravljanja, sajber bezbednosti i digitalnih rizika.