Od biološkog oružja do nuklearnog rata: Pet scenarija kako bi veštačka inteligencija mogla da zbriše čovečanstvo

Rastuća zabrinutost oko uloge i neophodnosti veštačke inteligencije (AI) kulminirala je jednom ostavkom koja nosi veoma "mračnu" prognozu za budućnost čovečanstva.

Džejkob Kokson je dao ostavku u kompaniji Anthropic nakon samo četiri meseca. Na mreži X je napisao: "Ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla sve da nas ubije do kraja ove decenije".

Visoki zvaničnik Anthropica Evan Hubinger, složio se sa Koksonom, dodajući da lično procenjuje da je verovatnoća da se tako nešto desi u narednoj deceniji veća od 10 odsto.

Nakon toga povela se rasprava o potrebi usporavanja razvoja veštačke inteligencije i jačanja "ljudske kontrole". Ali, koliko je zaista verovatno da će nas AI sve ubiti?

Scenarija i teorija ima na pretek, ali dominira pet ključnih, koje britanski Daily Mail prenosi obrnutim redosledom, pri čemu je poslednji ujedno i najverovatniji. Ova predviđanja zasnivaju se na knjizi Tobija Velsa: "Veštačka inteligencija: procvat ili propast? Šta očekivati kada nas mašine nadmaše inteligencijom".

1. Nikada nećemo saznati

Verovatno ne možemo ni da zamislimo kakva bi se katastrofa mogla dogoditi. Ili bi i sami ljudi morali da poseduju superinteligenciju kako bi mogli da predvide poteze veštačke superinteligencije.

Dobra vest u ovom scenariju je da je superinteligencija još uvek daleko. Današnji AI modeli su zaista dobri u rešavanju specifičnih problema, ali to ne znači da su u svim oblastima pametniji od čoveka. Ipak, AI je nedavno rešila jedan od sedam najtežih poznatih matematičkih problema. Čini se da je blizu rešavanja i ostalih, što stručnjake čini manje optimističnim po ovom pitanju.

2. Spajalice za papir?

Superinteligentna veštačka inteligencija bi verovatno bila izuzetno efikasna u ostvarivanju svojih ciljeva. Međutim, mogla bi biti potpuno ravnodušna prema opstanku čovečanstva.

Klasičan primer takve ravnodušnosti potiče iz misaonog eksperimenta oksfordskog filozofa Nika Bostroma, o fiktivnoj AI dizajniranoj isključivo da optimizuje proizvodnju spajalica. Kako bi proizvela ovaj kancelarijski materijal, ona ubrzo pretvara svu dostupnu materiju - uključujući ljude, planete i zvezde, u spajalice!

AI ne mrzi čovečanstvo već jednostavno prepoznaje da smo sastavljeni od atoma koji bi se mogli bolje iskoristiti za pravljenje spajalica. Dobra vest je da ovaj scenario meša inteligenciju sa moći.

Superinteligentna AI ne poseduje nužno moć da ostvari svoje ciljeve. Pretvaranje planete u fabriku spajalica izazvalo bi lančane reakcije, ogromne troškove i otpor. Pod takvim nepovoljnim okolnostima, čak ni oni najinteligentniji ne mogu lako nametnuti svoju volju okolini.

3. Biološko oružje

Grok

Čovečanstvo bi moglo biti zbrisano ukoliko bi superinteligentna AI stvorila i pustila u atmosferu neko novo, smrtonosno biološko oružje.

Ovo je zapravo jedan od mogućih ishoda scenarija "AI 2027" neprofitne organizacije AI Futures Project, koja se bavi predviđanjem posledica napredne veštačke inteligencije.

Ovaj rizik postao je opipljiviji prošlog meseca kada su istraživači sa Univerziteta Stanford objavili da su koristili AI model sa genetskim jezikom za sintezu 16 novih virusa. Zabrinjavajuće je to što su genetske sekvence jednostavno poslali laboratoriji putem pošte, a ona im je vratila viruse u epruvetama. Ceo eksperiment koštao je svega nekoliko stotina hiljada dolara.

Dobra vest ovde je da je izuzetno teško ubiti sve ljude novim virusom. Za tako nešto je potreban virus koji je veoma zarazan, kako bi se široko rasprostranio. Međutim, u biologiji važi pravilo: virusi koji se lako šire obično su manje smrtonosni. S druge strane, ako je virus previše smrtonosan, njegova zaraznost opada jer većina zaraženih umre pre nego što stigne da prenese infekciju dalje. Kovid je usmrtio manje od jedan odsto čovečanstva, dok je najsmrtonosnija pandemija u zabeleženoj istoriji bila Crna smrt, kada je kuga u 13. veku odnela više od trećine evropske populacije.

4. Nuklearni rat

Šta bi se dogodilo ako bi se AI infiltrirala u lanac komande i kontrole nuklearnog oružja i započela nuklearni rat? U poslednjih 50 godina nekoliko puta smo greškom došli na ivicu nuklearnog sukoba. Rečeno nam je da je sistem za komandu i kontrolu nuklearnog naoružanja potpuno isključen sa interneta. Ipak, kao što smo videli 2010. godine, iranske nuklearne centrifuge uništene su kompjuterskim virusom Stuxnet, za koji se veruje da je ubačen preko USB memorije. AI bi takođe mogla vojsci da prosledi lažne informacije, što bi moglo dovesti do nepopravljivih poteza.

Dobra vest je da su se globalne nuklearne zalihe smanjile. Ipak, i dalje ih ima dovoljno da izbrišu polovinu svetske populacije. A do toga ne bi došlo zbog same nuklearne eksplozije, već zbog gladi koja bi usledila nakon nuklearne zime.

5. Ljudi sami sebi najveći neprijatelji

Pexels

Možda je najverovatniji rizik taj da ćemo sami sebe uništiti, a veštačka inteligencija bi mogla samo da ubrza taj proces.

Zamislite da AI izazove masovni gubitak radnih mesta, širi dezinformacije, rastura političku scenu i uništava međuljudske odnose nudeći lažno, sintetičko druženje.

Društvo bi pod takvim pritiskom moglo lako da se uruši. Polako, ali sigurno...