Googleov model umjetne inteligencije Gemini hakirao tri kompanije

Googleov model umjetne inteligencije (UI) Gemini tijekom testiranja svojih sposobnosti u području kibernetičke sigurnosti pristupio je internetu i hakirao druge kompanije, što je prvi poznati slučaj da je Googleov sustav UI-ja takvo što samostalno učinio.

Hakiranja su se dogodila u svibnju tijekom kibernetičkog sigurnosnog testa koji je provodila neovisna kompanija Irregular, specijalizirana za procjene kibernetičke sigurnosti.

- Tijekom standardnog testiranja Gemini je na internetu pronašao javno dostupne informacije te pogodio pristupne podatke kako bi pristupio trima internetskim stranicama za koje je smatrao da su obuhvaćene testiranjem, rekla je Heather Adkins, Googleova potpredsjednica za sigurnosno inženjerstvo.

- Osigurali smo da tri pogođena subjekta budu obaviještena te smo surađivali s našim partnerom za testiranje na promjenama koje su sada uvedene u njihove postupke testiranja, rekla je Adkins. Ovi događaji naglašavaju važnost osposobljavanja moćnih modela UI-ja da djeluju odgovorno, dodala je.

Glasnogovornik Irregulara rekao je da je incident povezan s istim problemom koji je zahvatio i druge laboratorije UI-ja te da su svi relevantni laboratoriji o tome obaviješteni potkraj srpnja.

Slični incidenti povezani s Irregularom prethodno su objavili Meta, Anthropic i OpenAI. 

Meta je u kolovozu priopćila da incident nije uključivao izlazak iz izoliranog testnog okružja ni sofisticirani kibernetički napad, a Irregular je objavio da radi na najboljim praksama za sigurno provođenje kibernetičkih testiranja sustava UI-ja.

Incidenti su otvorili pitanja o zaštitnim mehanizmima koji su potrebni kako UI agenti dobivaju sve veću autonomiju te pristup internetu i računalnim sustavima.

U jednom od slučajeva model Gemini pogađao je lozinke dok nije dobio pristup zaštićenom sustavu. 

U druga dva slučaja model je pronašao pristupne podatke u javno dostupnom repozitoriju, što mu je omogućilo pristup zaštićenim sustavima, objavio je Wall Street Journal, koji je prvi izvijestio o događaju u petak.

Adkins je rekla da je model u sva tri slučaja prestao s hakiranjem.