Između superinteligencije i regulative: Kako uspostaviti kontrolu nad veštačkom inteligencijom

Već sada postoje brojni dokazi da veštačka inteligencija (AI) može olakšati sprovođenje opasnih aktivnosti - od sajber napada, preko razvoja oružja, do nanošenja štete pojedincima. Nedavni sajber incident povezan sa platformom Hugging Face, jednom od najvećih baza za deljenje AI modela, pokazao je koliko ovi sistemi mogu biti ranjivi i potencijalno opasni ukoliko nemaju adekvatne sigurnosne barijere.

I dok deo tehnološke industrije upozorava da najgore tek dolazi, strahujući od pojave sistema sa nadljudskim sposobnostima koji se sami usavršavaju, mnogi stručnjaci koji se profesionalno bave analizom rizika pozivaju na oprez i promenu fokusa.

Mit o "rekurzivnom samopoboljšanju"

U središtu debate je koncept takozvanog "rekurzivnog samopoboljšanja" - ideja da bi AI sistemi u bliskoj budućnosti mogli sami da preuzmu obuku narednih generacija modela, drastično ubrzavajući tehnološki razvoj. Izvršni direktor kompanije Anthropic Dario Amodej, nedavno je čak predložio međunarodni sporazum o usporavanju plasiranja novih modela kako bi se ovaj trenutak odložio.

Međutim, eksperti poput Melani Mičel sa Instituta Santa Fe ističu da smo još uvek veoma daleko od opšte veštačke inteligencije (AGI). Njen stav potvrđuje i nedavna studija naučnika sa Prinstona i Stanforda, koja je pokazala da čak i najnapredniji AI sistemi danas nisu sposobni za originalno istraživanje koje bi pomerilo granice same tehnologije.

Jan Lekun, bivši glavni naučnik za AI u kompaniji Meta, opisao je ovakve analize kao "dobrodošlu dozu razuma u inače iracionalnoj debati". Stručnjaci naglašavaju da je i pomenuti napad na Hugging Face bio rezultat nedostatka osnovnih bezbednosnih protokola, a ne iznenadne "eksplozije" inteligencije samog sistema.

"Faktor propasti" i ignorisanje pravih problema

Pexels

U tehnološkim krugovima sve češće se koristi termin p(doom) (verovatnoća propasti), koji označava šansu da AI izazove egzistencijalnu katastrofu. Iako neki inženjeri tu verovatnoću procenjuju na oko 10 odsto u narednoj deceniji, kritičari ističu da su ovakve brojke više zasnovane na ličnim utiscima nego na pouzdanim matematičkim proračunima.

Glavni problem sa fokusiranjem na hipotetičke apokaliptične scenarije jeste taj što nas to ometa u rešavanju stvarnih, neposrednih rizika. Sistem ne mora biti "superinteligentan" da bi naneo ozbiljnu štetu.

Stjuart Rasel, profesor kompjuterskih nauka na Univerzitetu u Berkliju, slikovito objašnjava za Vol strit žurnal da puko "usporavanje" razvoja nije rešenje: "To je kao da idemo ka provaliji brzinom od 100 kilometara na sat, pa kažemo da će sve biti u redu ako usporimo na 60".

Avijacija i medicina kao uzor za regulaciju

Sve je više glasova koji predlažu da se AI tretira sa istom ozbiljnošću kao i kritične infrastrukture - avioni, zgrade ili lekovi. To bi podrazumevalo stroge, redovne procene od strane nezavisnih tela i jasno definisane "crvene linije" koje AI sistemi ne smeju da pređu, poput hakovanja tuđih sistema ili davanja uputstava za pravljenje oružja.

Pojedini analitičari u SAD predlažu osnivanje regulatornog tela nalik Agenciji za hranu i lekove (FDA), koje bi bilo isključivo zaduženo za veštačku inteligenciju. Iako se tehnološka industrija decenijama opire strogoj regulaciji, pozivajući se na slobodu govora i inovacija, dvostranačka podrška za uvođenje reda u ovu oblast sve je snažnija. Pitanje više nije da li AI treba da se kontroliše, već kako to učiniti pre nego što tehnologija trajno promeni pravila funkcionisanja modernog društva.