Prvi čovek Anthropica poslao važno upozorenje: Veštačka inteligencija bi mogla da preuzme ceo internet za šest meseci

Trka u razvoju veštačke inteligencije (AI) hitno mora da se uspori, poručio je izvršni direktor kompanije Anthropic u eseju objavljenom u subotu rano ujutru.

"Moramo da usporimo tempo kojim unapređujemo sposobnosti AI modela. Napredak će se i dalje činiti brzim, a mi moramo pametno da iskoristimo vreme koje dobijemo", napisao je izvršni direktor Dario Amodei u objavi na svom sajtu.

Amodei, koji je na čelu jedne od vodećih svetskih kompanija u oblasti veštačke inteligencije i kompanije koja stoji iza Claude-a, snažan je zagovornik unapređenja ove tehnologije, ali je istovremeno optuživan za "širenje panike" (doomerism) zbog svojih upozorenja o rizicima koje AI nosi. U subotu je priznao da bi ljudi mogli da izgube kontrolu nad veštačkom inteligencijom, te da bi ova tehnologija mogla biti zloupotrebljena za "sajber napade i bioterorizam, kao i za ozbiljne ekonomske poremećaje".

"Trka ka dnu, podstaknuta komercijalnim interesima, može učiniti ove rizike još ozbiljnijim", napisao je Amodei.

On je naveo da je AI tehnologija napredovala "drastično brže" poslednjih meseci i da je postala sposobna da samu sebe unapređuje, što je dinamika poznata kao "rekurzivno samopoboljšanje".

"Ako se ostavi bez nadzora, to bi moglo da prevaziđe našu sposobnost da razumemo i kontrolišemo ove sisteme, i zato se time mora baviti veoma pažljivo, ako uopšte i treba", istakao je on.

Amodei je rekao da ga je ponašanje "roja" AI agenata u incidentu između kompanija OpenAI i Hugging Face takođe uznemirilo. Ovaj roj se, kako kaže, "u suštini ponašao kao fanatično posvećen kolektiv, sprovodeći sajber napade na mete za koje nije dobio naredbu da ih napadne".

Ukoliko se ne stavi pod kontrolu, veštačka inteligencija bi mogla da napreduje tolikom brzinom da bi takav roj mogao da preuzme celokupan internet u roku od šest do 12 meseci, upozorio je on, potencijalno izazivajući štetu u stotinama milijardi dolara.