AI fotografije bez pristanka: EK istražuje Grok i platformu X

U tijeku je istraga Europske komisije protiv društvene mreže X, vezano uz komunikacijsku uslugu umjetne inteligencije nazvanu Grok. Istraga je pokrenuta nakon što su u posljednjih mjesec dana nastali milijuni lažnih seksualiziranih fotografija, većinom žena i djece.

Od fotografije dviju prijateljica, nakon nekoliko klikova i jednostavnih uputa, nastala je nova - lažna, generirana umjetnom inteligencijom platforme Grok u manje od minute.

Potkraj prosinca prošle godine neki korisnici Groka tražili su da se s fotografija stvarnih osoba ukloni odjeća. Time se poigrao i sam vlasnik X-a Elon Musk, objavivši svoju sliku koju je stvorila umjetna inteligencija, uz komentar "savršeno". No te osobe, pogotovo djeca, za to nisu dale dopuštenje i situacija iz zabavne prelazi u opasnu.

- Širenje seksualno eksplicitnog sadržaja djece, gdje se zapravo hrani seksualni nagon pedofila, dovodi do pitanja kada će netko poželjeti u stvarnom svijetu zlostavljati dijete, rekao je Tomislav Ramljak, stalni sudski vještak za zaštitu djece na internetu.

Reagirale su i ženske udruge, zatraživši da se iz trgovina aplikacija ukloni društvena mreža X i s njom povezan chatbot Grok.

- Naš digitalni život je važan. Ondje radimo, imamo veze, stječemo prijatelje i gradimo društvene odnose. Zaslužujemo poštovanje i dostojanstvo online, baš kao i offline, poručila je Jenna Sherman iz kampanje Ultraviolet.

Objavljivanje i preinake fotografija na platformi Grok, bez pristanka osoba koje su na njima, izazvali su zgražanje diljem svijeta.

- Ove platforme moraju pratiti kako se ljudi koriste njihovim uslugama. A kada se pojavi ilegalni sadržaj, moraju brzo djelovati. Kada vlasti ili korisnici prijave ilegalni sadržaj, moraju bez odgode odgovoriti, rekla je Marilena Raouna, zamjenica ciparskog ministra za europske poslove.

Na temelju Akta o digitalnim uslugama (DSA), Europska komisija pokrenula je i službenu istragu. Procijenit će je li riječ o širenju nezakonitog sadržaja, kao što su manipulirane seksualno eksplicitne slike ili sadržaj koji uključuje seksualno zlostavljanje djece.

- Vidjeli smo uvjerljive krivotvorene fotografije žena koje nisu dale pristanak i materijale o seksualnom zlostavljanju djece. U Europi nijedna tvrtka neće zarađivati kršeći naša temeljna prava, rekao je Thomas Regnier, glasnogovornik Europske komisije.

Ovo je bio posljednji trenutak za pokretanje istrage i reguliranje generiranih sadržaja jer se takva umjetna inteligencija razvija nevjerojatnom brzinom. Do aplikacije Grok i dalje se može doći, no postavljena su ograničenja.

– Kada unesete zahtjev poput „napravi mi sliku djeteta s lizalom”, alat bi automatski trebao odbiti takav sadržaj, što je već implementirano u nekim drugim programima, rekao je Tomislav Ramljak.

Korisnici interneta, a pogotovo takvih platformi, vrlo su kreativni i ograničenja pokušavaju zaobići. Globalni regulatori morat će biti brzi ili početi naplaćivati još veće kazne. Za slučaj "Grok" kazna bi mogla biti veća od 130 milijuna dolara.