AI jezički modeli postaju sve moćniji: Da li su dovoljno usklađeni sa ljudskim vrednostima
Komentari24/06/2025
-21:23
Kako da "naučimo" AI šta su ljudske vrednosti, šta čovek može, a mašine nikada neće moći, može li AI ikada steći sposobnost razumevanja sveta na način na koji to mi činimo - odgovore na ta pitanja daje Ilija Bogunović, docent za AI i mašinsko učenje na Univerzitetskom koledžu u Londonu.
Bogunović je na početku istakao da veštačka inteligencija može da nauči šta su ljudske vrednosti, ali da trenutno postoje izazovi u učenju različitosti i raznovrsnih ljudskih vrednosti.
"Međutim, glavni problem je u tome što trenutni algoritmi za post-treniranje jezičkih modela pokušavaju da modeluju jednog prosečnog korisnika", pojašnjava Bogunović.
Euronews
Sa druge strane, ljudske vrednosti su veoma različite i variraju od različitih kultura do različitih grupa, tako da je treniranje jednog modela koji može na pametan način da opsluži veliki broj različitih grupa i vrednosti koje ljudska društva predstavljaju, i dalje izazovan zadatak.
Govoreći o usklađivanju modela, smatra kako to za čitavo polje predstavlja krupan problem i navodi da se ne radi o lakom pitanju i da postoje različiti odgovori sa različitih stanovišta - etičkog, moralnog, zakonodavnog.
"Potrebno je da se veća grupacija ljudi, koja ne uključuje samo AI naučnike, već i one koji se bave AI etikom, socijalne naučnike i donosioce zakona, zajedno informiše i uskladi principe po kojima čettbotovi, uključujući ChatGPT, DeepSeek i slične, mogu i treba da funkcionišu", pojašnjava docent.
Smatra da u zajednici postoji određena svest o potrebi regulisanja AI prostora, ističući da je nedavno donesen European AI Act, koji nastoji da definiše kako AI sistemi mogu da se koriste, i ko treba da stoji iza regulacije takvih modela.
Povezane vesti
"U suštini, mnogo snage je unutar kompanija kojima ti modeli pripadaju i sa tog stanovišta mi ne možemo da utičemo kako DeepSeek cenzuriše ili ne cenzuriše odgovore i informacije koje model pruža", podvlači sagovornik.
U kontekstu usklađivanja vrednosti koji se učitavaju u modele od strane korporacija sa univerzalnim potebama, sagovornik smatra da to može predstavljati izazov.
"Kada govorimo o sistemima koji su zatvorene prirode tipa, poput ChatGPT-a, gde mi ne možemo da utičemo na to kako je model prilagođen tokom post-treninga, to je u suštini dosta teško,u smislu da moraju da postoje regulative, međunarodni dogovori, etičke norme koje će da usklađuju i kontrolišu te modele", pojašnjava sagovornik.
On kaže da, sa jedne strane, postoji svest o regulisanju AI, ali da, s druge strane, ako želimo da koristimo neke od otvorenih jezičkih modela i prilagodimo ih za naše potrebe — bilo da je to za našu kompaniju, laboratoriju ili slično — možemo da obratimo posebnu pažnju na post-trening modela. To podrazumeva uključivanje različitih grupa, različitih mišljenja i vrednosti koje su nam važne.
Razvoj veštačke inteligencije
Dodaje da treba posebno da se radi na ispravljanju disbalansa u podacima koristeći robusnije algoritme, koji mogu, na primer, da povećaju zastupljenost grupa do kojih nam je stalo. Na taj način model se bolje prilagođava određenim korisničkim grupama koje želimo da podržimo.
Takođe, smatra kako je ChatGPT bolji u razumevanju sveta nego što je bio pre godinu dana.
"Različite funkcionalnosti su dodate ChatGPT-uuključujući pretragu. Mislim da ChatGPT definitivno bolje razume svet i potrebe", kaže sagovonik.
Povezane vesti
Prema njegovim rečima, kada ukucate i pitate ChatGPT da vam objasni primer, dobijate odgovor iz različitih uglova.
"Najbanalniji primer je, pitanje ko je izazvao ratna dešavanje u Izraelu, u Iranu? Dobićete odgovor koji će da se stavi u cipele jednog i drugog aktera", podvlači on.
Bogunović takav razvoj AI smatra dobrim istučući da se na tome sigurno radilo.
"To je takozvani 'Overtonov pluralizam', gde mi pokušavamo da pokrijemo aspekte svih mogućih aktera, tako da u proseku budemo zadovoljni sa odgovorom", konstatuje on.
Tema emisije Euronews Centar bili su još i kako pravilno da koristite ChatGPT o čemu je govorio Darko Marjanović iz "Things Solver"-a, kao i Darko Natalić iz kompanije "Kaspersky", koji je govorio i istraživanju koje pokazuje da se četvrtina milenijalaca u Srbiji mentalno bolje oseća zahvaljujući prijateljstvima na društvenim mrežama.
Celu emisiju pogledajte u videu na početku teksta.
Komentari (0)