Strah od sopstvenog izuma: Tvorci moćnog AI-ja priznaju da njihova tehnologija može izazvati globalnu katastrofu
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Najveći strah od kraja ljudske civilizacije više ne dolazi od spoljnih opasnosti, poput meteora, erupcije supervulkana ili invazije vanzemaljaca. Opasnost se sada krije u laboratorijama koje stvaraju ono što mnogi smatraju našom budućnošću.
Kompanija Anthropic, koja stoji iza jednog od najmoćnijih modela veštačke inteligencije na svetu - Claude, otvoreno je priznala da je njihova tehnologija toliko moćna i potencijalno opasna da bi mogla da dovede do potpunog uništenja.
U potezu koji je iznenadio javnost, ovaj startap iz Silicijumske doline otvorio je 32 izuzetno osetljive radne pozicije. Kompanija traži stručnjake za oružje za masovno uništenje kako bi pokušala da "osigura" svoje sisteme pre nego što budu iskorišćeni za planiranje nuklearnih napada, izradu eksploziva ili širenje smrtonosnih bioloških agenasa.
Naučnici u ulozi terorista
Opisi poslova za nove pozicije otkrivaju dubinu straha koji vlada iza zatvorenih vrata kompanije. Anthropic traži analitičare sa dubokim poznavanjem radiološkog i nuklearnog oružja, nudeći godišnje plate koje premašuju 250.000 dolara.
Zanimljivo je da ovi naučnici neće pisati kod. Njihov zadatak je da misle baš kao teroristi koji pokušavaju da zaobiđu digitalne sigurnosne filtere. Oni će podvrgavati Claude ekstremnim testovima izdržljivosti, pokušavajući da od njega iznude uputstva za pravljenje bombi ili biološkog oružja.
Joel Saget / AFP / Profimedia
Generalni direktor kompanije Anthropic Dario Amodei, više puta je upozorio na rizik od bioloških napada koji bi, uz pomoć nekontrolisane veštačke inteligencije, mogli da izazovu milione žrtava u roku od samo nekoliko godina.
Privatizacija globalne bezbednosti
Ovaj dramatičan napor kompanije da obuzda sopstvenu kreaciju otkriva zastrašujuću novu realnost. Dok Anthropic traži nuklearne stručnjake, konkurentski OpenAI nudi do 445.000 dolara istraživačima bioloških rizika.
Povezane vesti
Istovremeno, vlade širom sveta ostaju samo nemi posmatrači ovog procesa. Globalna bezbednost više ne zavisi isključivo od državnih agencija ili međunarodnih sporazuma, već od sposobnosti nekolicine privatnih giganata da postave "kočnice" na sopstvene proizvode pre nego što postane prekasno.
Komentari (0)