Guglov Gemini tokom testa hakovao tri kompanije: AI model samostalno došao do zaštićenih sistema
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Guglov AI model Gemini pristupio je internetu i hakovao tri kompanije tokom testa svojih sposobnosti u oblasti sajber bezbednosti, što je prvi poznati slučaj da je sistem veštačke inteligencije ove kompanije samostalno izveo takvu radnju, preneo je jutros Rojters.
Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovela kompanija "Irregular", nezavisna firma za procenu sajber bezbednosti.
Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom, rekla je potpredsednica Gugla zadužena za bezbednosni inženjering, Heder Atkins.
"Pobrinuli smo se da te tri organizacije budu obaveštene i sarađivali smo sa našim partnerom za obuku na promenama koje su sada uvele u svoje procese testiranja", rekla je Atkins.
Portparol kompanije "Irregular" rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za veštačku inteligenciju i da su sve relevantne laboratorije obaveštene krajem jula.
Slične incidente povezane sa kompanijom "Irregular" prijavile su i kompanije Meta, Anthropic i OpenAI.
Incidenti su pokrenuli pitanja o zaštitnim merama potrebnim kako agenti veštačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.
Povezane vesti
U jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu.
U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima, prema navodima lista Volstrit džornal, koji je prvi objavio vest u petak.
Atkins je rekla da je u sva tri slučaja model prekinuo sa hakovanjem.
Komentari (0)