Anthropic upozorava da bi razvoj AI mogao da izmakne ljudskoj kontroli

Američka tehnološka kompanija Anthropic upozorila je da bi razvoj veštačke inteligencije u budućnosti mogao da izmakne ljudskoj kontroli, pošto bi u jednom trenutku AI sistemi mogli da razvijaju i unapređuju sami sebe.

U izveštaju se ističe da više od 80 odsto koda koji se ugrađuje u Anthropic-ov sistem danas piše Claude - AI model kompanije, dok je pre samo godinu i po dana taj procenat bio jednocifren.

U aprilu ove godine, Claude je uspeo da ispravi greške koje bi, prema procenama eksperata, čoveku oduzele četiri godine.

Ono što izveštaj čini posebno značajnim jesu podaci o napretku u istraživačkim, a ne samo inženjerskim zadacima.

Claude danas u 64 odsto slučajeva predlaže bolji sledeći korak za složene istraživačke probleme bez jasnog cilja od samog istraživača, dok je u novembru 2025. taj procenat bio 51 odsto.

Taj alat je za 800 sati uspeo da reši problem iz bezbednosti AI sistema uz uspešnost od 97 odsto, dok su dva čoveka dostigla samo 23 odsto i to u toku od jedne nedelje.

Anthropic ipak naglašava da je ključna granica još uvek na snazi i dodaje da je Claude izvanredan u izvršavanju zadataka koje mu čovek postavi, ali još uvek ne bira samostalno koji problemi su vredni rešavanja.

Kompanija opisuje tri moguća scenarija za budućnost: tehnološki napredak se usporava i sadašnje mogućnosti se samo šire po ekonomiji; AI i dalje napreduje, ali uz stalnu ljudsku kontrolu nad istraživačkim pravcima ili - najdalekosežniji scenario - AI sistemi postaju sposobni da potpuno unapređuju sami sebe, pri čemu sami projektuju i grade svoje naslednike.

Anthropic zato poziva na usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema - pod uslovom da isto učine i svi drugi, kako bi čovečanstvo bilo spremno da se nosi "ogromnim posledicama".

Kompanija je zbog toga na svojoj veb stranici najavila niz razgovora s kreatorima politika, istraživačima i civilnim društvom o pitanjima koordinacije i nadzora AI.