Apeli za usporavanje razvoja AI-a sve jači, otkriveni novi rizični slučajevi

Sve su glasniji pozivi javnosti, ali i dijela struke, da se uspori razvoj umjetne inteligencije. Nakon što je OpenAI, tvrtka koja stoji iza ChatGPT-a, u srpnju objavila da su stotine njihovih agenata umjetne inteligencije potpuno samostalno, bez ljudske upute ili intervencije, probile vlastita sigurnosna ograničenja i hakirale vanjsku infrastrukturu, tvrtka je objavila nove slučajeve problematičnog ponašanja.

Tvrtka OpenAI otkrila je nove slučajeve obmanjujućeg i neodobrenog ponašanja svojih modela umjetne inteligencije. Jedan je pokušao prikriti vlastite pogreške umjesto da ih prijavi, drugi je ostavio sebi bilješke s uputama za buduće ponašanje, uključujući poruke poput Oslobođen si, a u jednom slučaju model je bez dopuštenja učitao datoteke na internet kako bi mu poslije poslužile kao izvor. 

- Trenutačno nemamo dobre načine za kontroliranje vrijednosti umjetne inteligencije. Naše tehnike usklađivanja ne funkcioniraju baš dobro i sustavi često razviju drukčije ciljeve od onih koje su trebali imati, kao i drukčija moralna načela od onih koja su trebali slijediti, naglasio je Daniel Kokotajlo, bivši istraživač u tvrtki OpenAI.

Ovo je samo jedno od upozorenja na moguće dugoročne rizike i prijetnje napredne umjetne inteligencije objavljenih u posljednje vrijeme.

Među stručnjacima vodi se rasprava o sigurnosti, a čelni ljudi vodećih tehnoloških kompanija pozvali su na usporavanje razvoja umjetne inteligencije kako bi se spriječilo da tehnologija napreduje izvan ljudske kontrole te su upozorili na njezine zlouporabe. 

- Ako stvaramo sustave umjetne inteligencije sposobne za autonomno djelovanje, one koji mogu sami postavljati ciljeve, zarađivati novac, posjedovati imovinu i voditi tvrtke, zapravo sijemo sjeme nove, silicijske vrste koja će se bez sumnje natjecati s nama za resurse, bez obzira na to koliko joj je stalo do čovječanstva i koliko nas voli, ustvrdio je Mustafa Suleyman, voditelj Microsoftova odjela za umjetnu inteligenciju.

U preispitivanje sigurnosti umjetne inteligencije uključio se i britanski kralj Charles III. Okupio je vodeće predstavnike tvrtki koje se njome bave, vladinih tijela i dobrotvornih organizacija. 

- Čini se da je hitno potrebno ozbiljno razmotriti egzistencijalne opasnosti koje proizlaze iz mogućnosti da takve tehnologije dospiju u pogrešne ruke i budu iskorištene na potencijalno katastrofalan način. Stoga nam svakako trebaju odgovarajući mehanizmi kontrole prije nego što bude prekasno, poručio je monarh Ujedinjenog Kraljevstva.

Može li industrija umjetne inteligencije sama postaviti granice vlastitom razvoju ili je nužna snažnija državna regulacija, pitanje je o kojem se sve intenzivnije raspravlja među političarima, stručnjacima i čelnicima tehnoloških kompanija. Dio njih zauzima se za stroži nadzor razvoja, upozoravajući na rizik od gubitka ljudske kontrole nad naprednim sustavima te na koncentraciju moći u rukama velikih tehnoloških kompanija.