Odmetnuti agent OpenAI-ja hakirao stranicu australske vlade

Australija je objavila da je agent OpenAI-ja u lipnju probio vladin portal sa zdravstvenim podacima i neovlašteno pristupio datotekama, što bi mogao biti prvi poznati slučaj da je AI agent hakirao internetsku stranicu neke vlade.

Odmetnuti Open AI-ev agent - autonomni računalni program - još polovicom lipnja hakirao je internetsku stranicu australske vlade s javnim i nejavnim datotekama, podacima državnog sustava javne zdravstvene skrbi "Medicare". No, moguće je da su pogođena još tri vladina sustava - Institut za zdravstvo i socijalnu skrb te dvije državne agencije.

Open AI - američka kompanija i istraživački laboratorij posvećen razvoju sigurne i korisne umjetne opće inteligencije, tvrdi kako su za incident saznali tek u kolovozu, tijekom opsežne provjere aktivnosti svojih modela umjetne inteligencije.

Upad u australsko zdravstveno osiguranje

Riječ je o jednom od najpoznatijih incidenata u kojima su AI agenti pristupili vanjskim sustavima izvan Sjedinjenih Država, nakon nekoliko nedavnih proboja koje su diljem svijeta izveli AI agenti koji su djelovali samostalno, a koji su izazvali zabrinutost vlada i kompanija.

Premijer Anthony Albanese rekao je da je agent OpenAI-ja neovlašteno pristupio portalu s medicinskim statistikama Medicare-a, australskog univerzalnog sustava zdravstvenog osiguranja, dok je provodio istraživanje javne zdravstvene potrošnje.

Australija je izvršnom direktoru OpenAI-ja Samu Altmanu izrazila iznimnu zabrinutost zbog ovog incidenta, rekao je Albanese, dodajući da je duboko razočaran kašnjenjem kompanije u obavještavanju vlade. Tek 10. rujna uopće smo dobili obavijest, rekao je Albanese te dodao da će se istragom također utvrđivati zašto vladini sustavi prije svega nisu otkrili proboj.

Upozorio je i da su aktivnosti agenta OpenAI-ja možda zahvatile još tri vladine internetske stranice povezane sa zdravstvom, no nije potvrdio da se to doista dogodilo.

- Trenutačno dostupni dokazi pokazuju da nije došlo do šireg kompromitiranja mreže. Unatoč tome, ova je situacija očito neprihvatljiva, rekao je Albanese novinarima u srijedu u New Yorku, gdje sudjeluje na Općoj skupštini UN-a.

OpenAI: Nema dokaza o pristupu podacima pacijenata

OpenAI je u priopćenju naveo da provjerom nije pronađen nikakav dokaz da je pristupljeno podacima o pacijentima. Dodao je da je utvrđena aktivnost koja je uključivala nekoliko internetskih stranica i usluga australske vlade.

Proboj koji je izveo AI agent dodatno je zaoštrio napetosti između Australije i najvećih tehnoloških kompanija u američkom vlasništvu.

Canberra se već suočila s kritikama kompanija društvenih mreža i Washingtona nakon što je uvela prvu svjetsku zabranu korištenja društvenih mreža za mlađe od 16 godina te nova pravila koja tehnološke kompanije obvezuju korisnicima omogućiti isključivanje sadržaja koji se na njihovim kanalima prikazuje na temelju algoritama.

Australska vlada osnovala je radnu skupinu koja će istražiti ovaj incident i provjeriti jesu li postojeće mjere sigurnosti mreža dostatne za sprječavanje sličnih incidenata.

Australija osniva radnu skupinu

Zamjenik australskog premijera Richard Marles najavio je osnivanje radne skupine koja će istražiti incident i razmotriti sigurnost državnih sustava.

- Osnivamo radnu skupinu koju vodi Ured premijera i vlade. Ona će djelovati žurno. Temeljito će istražiti incident, ali i preispitati naš pristup suočavanju s novim kibernetičkim prijetnjama povezanima s umjetnom inteligencijom, rekao je Marles. Dodao je da će se razmotriti i sigurnost vladinih mreža te postojeći pravni okviri za takve incidente.

Tko je odgovoran kada AI agent prijeđe granicu?

Rob Nicholls iz Centra za umjetnu inteligenciju, povjerenje i upravljanje Sveučilišta u Sydneyju smatra da se odgovornost za postupke AI agenata ne može prebaciti na samu tehnologiju.

- Agenti umjetne inteligencije učinili su upravo ono što im je naloženo. Oni ne mogu učiniti ništa više ni manje od toga. Odgovornost leži na tvorcu tih agenata, ne na bilo kome drugom. Ne može se reći: ‘Pa, to je učinio moj robot, ja nisam!', poručio je Nicholls.

Incident je ponovno otvorio raspravu o nadzoru autonomnih sustava umjetne inteligencije, osobito kada im je omogućeno pretraživanje mrežnih stranica i pristup podacima. Australska istraga trebala bi utvrditi razmjere upada i odgovoriti na pitanje jesu li postojeće zaštitne mjere dovoljne za takve prijetnje.