Delić: AI alati sve češće služe za ilegalan sadržaj, sustav zaštite kaska

Zamjenik predsjednika Hrvatske udruge menadžera sigurnosti Alen Delić u središnjem Dnevniku HRT-a govorio je o opasnostima i rizicima povezanim s korištenjem umjetne inteligencije za stvaranje ilegalnog sadržaja.

Alen Delić, zamjenik predsjednika Hrvatske udruge menadžera sigurnosti, istaknuo je da se o toj temi govorilo i ranije, ali da se problemi ubrzano šire.

- Prije nekoliko mjeseci smo razgovarali o svim temama koje bi mogle doći na red. Danas, iz dana u dan, vidimo da su ljudi sve kreativniji. Seksualni sadržaj je problematičan, posebno kada pričamo o djeci, ali današnji alati funkcioniraju tako da rade s podacima i ljudi to iskorištavaju za neki oblik zabave ili barem misle da je to zabava. Bojim se da smo tek malo zakoračili i da ćemo tek u idućim mjesecima i godinama vidjeti veće probleme, rekao je Delić.

Osvrnuo se i na europski regulatorni okvir.

- Europska komisija Aktom o digitalnim uslugama želi spriječiti širenje sadržaja koji je ilegalan u bilo kojoj članici Europske unije. To se odnosilo na društvene mreže, a odnosi se i na AI. Problem je što se ovakvi zakoni pokušavaju primijeniti diljem svijeta, a to nije lako jer nam je pravo postalo dosta klimavo, rekao je.

Upozorio je da se AI alati sve više koriste i u poslovnom okruženju za stvaranje prijevara.

- Danas u poslovnim organizacijama vidimo kreiranje različitog sadržaja, phishing mailove koji su puno bolji, brži i realniji, ali vidimo i kreiranje različitih fotografija. Ne vidim da danas imamo tehnološke i pravne načine da to zaustavimo, istaknuo je.

"Alati bi trebali prepoznavati sadržaje štetne čovjeku"

Govoreći o ograničenjima unutar samih AI alata, naveo je da sustavi pokušavaju prepoznati štetan sadržaj, ali da zaštita nije neprobojna.

- Alati bi automatizmom trebali prepoznavati sadržaje koji rade na štetu čovjeka i trebalo bi implementirati mehanizme za kreiranje ilegalnog sadržaja. Kada nas AI alat i pokušava blokirati, mi ako smo dovoljno kreativni, možemo dolaziti do novih stvari, rekao je.

Posebno je upozorio na zabrinjavajući trend među djecom.

- Postoje sumnje da su im alati pomagali da počine samoubojstvo, rekao je.

Zaključio je da je sve teže razlikovati stvarni od lažnog sadržaja.

- Mislim da smo djelomično prešli tu fazu. Došli smo do toga da smo raspravljali o tome je li bivša predsjednica skočila u hladno more. Nismo još dovoljno oprezni u tome, sadržaja ima previše, svakodnevno obrađujemo milijune informacija i to više ne možemo pratiti, rekao je Delić.