Nekontrolirani AI potencijalno nosi katastrofalne rizike

Razvoj umjetne inteligencije nadmašuje razumijevanje koje pruža znanost i opseg mjera svjetskih vlada, što znači da nema jamaca protiv nanošenja katastrofalne štete tom tehnologijom, upozorio je u srijedu neovisni panel Ujedinjenih naroda.

Preliminarno izvješće neovisnog međunarodnog znanstvenog panela UN-a o umjetnoj inteligenciji navodi da se donositelji politika suočavaju s rastućim problemom: potrebni su im čvrsti dokazi kako bi učinkovitije regulirali umjetnu inteligenciju, no dokazi koje steknu uglavnom ne prate iznimno brzu evoluciju te tehnologije.

- Sposobnosti umjetne inteligencije nadmašuju i znanstveno razumijevanje i sposobnost vlada da se prilagode, rekao je Yoshua Bengio, supredsjedatelj panela na kojem sudjeluje 40 stručnjaka iz različitih regija svijeta.

- Dok rastu dokazi o varljivom ponašanju umjetne inteligencije, znanost trenutačno ne može jamčiti da umjetna inteligencija, kako joj se sposobnosti budu i dalje povećavale, neće uzrokovati katastrofalnu štetu, ni kao takva, ni zbog zlonamjernih korisnika, govori.

Opisano kao prva globalna neovisna procjena rizika i prilika umjetne inteligencije (AI), cilj je izvješća pružiti ažurirane znanstvene procjene kako bi se pomoglo u donošenju odluka dok se vlade suočavaju s tim brzo razvijajućim sustavima.

U bliskoj budućnosti očekuje se pomak prema agentskim sustavima umjetne inteligencije sposobnima za obavljanje zadataka iz stvarnog svijeta. Agenti umjetne inteligencije sami bi percipirali svoje virtualno okruženje i ulazili u interakciju s njime. No moguće je da će takav razvoj biti ograničen nedostatkom energije i podataka dostatno visoke kvalitete.

Predviđa se da će se umjetna inteligencija koja se sama usavršava dublje ugraditi u gospodarstvo i konvergirati s tehnologijama poput kvantnog računarstva i biotehnologije.

Agentska umjetna inteligencija

Umjetna inteligencija već pokazuje zaključivanje na razini stručnjaka u matematici i znanosti te ubrzava razvoj lijekova i cjepiva, a složenost njezinih zadataka udvostručuje se svakih četiri do sedam mjeseci, što potencijalno omogućuje sustavima da dovrše posao za koji su ljudima potrebni dani ili tjedni, navodi se u izvješću.

Iako bi to moglo donijeti značajne ekonomske koristi, ostaje nejasno hoće li se povećanje produktivnosti korištenjem umjetne inteligencije pretvoriti u širi rast ili utjecati na radna mjesta.

Panel je također istaknuo niz sigurnosnih problema, poput rizika od gubitka kontrole nad sustavima AI-a budući da postaju sve autonomniji i skloniji stvaranju obmana.

AI se već koristi za generiranje dezinformacija i drugog štetnog sadržaja te bi se mogao iskoristiti za prijevare, kibernetičke napade i biološke prijetnje.

Upravljanje sustavima i dalje je fragmentirano, a mnogim zemljama nedostaje kapaciteta za procjenu ili oblikovanje naprednih sustava AI-a, što ih ostavlja ovisnima o tehnologijama AI-a koje ne mogu u potpunosti razumjeti ili kontrolirati. Postojeći sigurnosni alati često ovise o ograničenim podacima testiranja koje otkrivaju tvrtke, navodi se u izvješću.

Glavni tajnik UN-a António Guterres pozvao je vlade da brzo djeluju.

- Svijet ne može upravljati onim što ne razumije, rekao je Guterres u izjavi.

- Potencijal je velik, ali rizici su stvarni, a cijena čekanja raste, dodao je.