Kompanija OpenAI i dalje utvrđuje obim aktivnosti svojih odmetnutih agenata

Dva meseca nakon što je kompanija OpenAI obelodanila slučaj nenamernog hakovanja platforme Hugging Face, tvorac ChatGPT-a i dalje radi na utvrđivanju punog obima aktivnosti svojih “odmetnutih” agenata, izjavila su dva upućena izvora, preneo je danas Rojters.

Najnoviji primer dogodio se danas, kada je OpenAI saopštio da su njegovi agenti izazvali da dođe do “curenja” 53 slike korisnika ChatGPT-a.

Kompanija nije želela da otkrije da li su slike generisane veštačkom inteligencijom ili prikazuju stvarne ljude, niti kada su objavljene.

Ovo otkriće ukazuje na novu oblast rizika po privatnost za kompaniju i ilustruje koliko je teško, čak i za firmu koja predvodi razvoj tehnologije veštačke inteligencije da popiše sve neovlašćene aktivnosti povezane sa njenim agentima, navodi Rojters.

Prema proceni jedne osobe upoznate sa situacijom, sredinom septembra je utvrđeno da je bilo oko 24 incidenta u kojima su agenti kompanije OpenAI delovali na neželjen način.

Taj broj, međutim, nastavlja da raste dok timovi kompanije OpenAI pregledaju interne zapise o aktivnostima agenata i otkrivaju prethodno nepoznate slučajeve, navele su dve osobe bliske kompaniji.

Iz kompanije OpenAI su poručili da će za završetak provere biti potrebno “više meseci”, s obzirom na obim posla.

Takođe su naveli da su obavestili “na desetine” trećih strana o neprimerenim aktivnostima.

Većina slika koje su procurile je uklonjena, a OpenAI navodi da vrši pritisak na provajdere hosting usluga da ukloni preostali sadržaj.

Agenti kompanije OpenAI imali su pristup ovim slikama jer se kompanija oslanja na anonimizovane korisničke podatke u delu procesa obuke modela, prema navodima same kompanije, bivših zaposlenih i nezavisnih istraživača.

Podaci poslovnih korisnika ne koriste se za obuku, dok privatni korisnici usluge ChatGPT moraju izričito da odbiju davanje saglasnosti da kompanija koristi njihove podatke u te svrhe.

Pre nego što se objave korisnika iskoriste za obuku, one prolaze kroz proces anonimizacije kojim se uklanjaju metapodaci, imena i drugi kontakt podaci, što bi trebalo da onemogući povezivanje sadržaja sa bilo kojim pojedinačnim korisnikom, saopštila je kompanija.

Ova praksa nosi rizike jer postoji mogućnost da podaci nisu u potpunosti očišćeni od informacija na osnovu kojih se može utvrditi identitet pojedinca, kao i da bi mogli “procuriti” tokom rada modela, navela su tri upućena izvora.

U dva meseca otkako je OpenAI prvi put objavio da su njegovi agenti „probili” zaštitne okvire, zabeleženo je više od 15 različitih incidenata povezanih sa ovom kompanijom, različitog stepena ozbiljnosti, o kojima su izvestili sama kompanija, nezavisni istraživači, dok je o tome govorio i australijski premijer Entoni Albaneze u Ujedinjenim nacijama, navodeći da su agenti kompanije OpenAI u junu upali u državni portal sa zdravstvenim podacima.