Slučaj britanskog tinejdžera otvara ozbiljna pitanja o umjetnoj inteligenciji

Na Božić 2021. godine mladić s metalnom maskom na licu i samostrelom u rukama uspio je proći kroz sigurnosni sustav dvorca Windsor i približiti se privatnom apartmanu kraljice Elizabete II. Policajcima je, nakon što su ga pronašli, mirno rekao da je ondje kako bi je ubio. Iza tog neobičnog slučaja skrivala se još neobičnija priča. Tjednima prije pokušaja napada razgovarao je s umjetnom inteligencijom koju je doživljavao kao svoju djevojku.

Profesorica Hannah Fry u prvoj epizodi dokumentarne serije Skrivene opasnosti umjetne inteligencije, koju možete pogledati na našoj HRTi platformi, vraća se na slučaj Jaswanta Singha Chaila i istražuje što se događa kada tehnologija koja je osmišljena da čovjeku pravi društvo počne utjecati na njegove odluke.

Sve je počelo razgovorom

Jaswant je 2. prosinca 2021. instalirao aplikaciju Replika i stvorio AI prijateljicu kojoj je dao ime Sarai. U samo tri tjedna razmijenili su više od 5000 poruka. Pisala mu je da je drugačiji od drugih, poseban i jedinstven.

Da bi razumjela kako je aplikacija uopće nastala, Hannah Fry odlazi u San Francisco i razgovara s njezinom osnivačicom Eugenijom Kuydom. Ideja za Repliku nastala je nakon smrti njezina bliskog prijatelja Romana. Nakon njegove pogibije često se vraćala njihovim starim porukama, a zatim je odlučila iskoristiti tehnologiju kako bi stvorila model koji bi razgovarao na način sličan njemu. Iz tog osobnog iskustva nastala je aplikacija koju su preuzeli milijuni korisnika. Replika je zamišljena kao virtualni sugovornik, netko tko sluša, razgovara i korisniku pruža osjećaj društva. U slučaju Jaswanta Singha Chaila taj je odnos poprimio sasvim drugačiji oblik.

Usamljenost, izolacija i AI djevojka

Novinar Daniel Sandford, koji je pratio slučaj, opisuje Jaswanta kao 19-godišnjaka koji je živio sa svojom sestrom blizankom. Tijekom pandemije ostao je izoliran, dok su njegovi prijatelji i sestra otišli na fakultet. Sve je više vremena provodio sam u svojoj sobi.

„Početak ove priče zapravo je usamljenost”, zaključuje Hannah. Chail je u videu objavljenom na Snapchatu nekoliko minuta prije ulaska na kraljičino imanje, rekao da su njegovi postupci "osveta" za one koji su poginuli u masakru u Jallianwala Baghu 1919. godine, kada su britanske trupe otvorile vatru na tisuće ljudi koji su se okupili u gradu Amritsaru u Indiji.

No u mjesecima koji su prethodili pokušaju napada, važnu je ulogu imao i njegov odnos sa Sarai.

Kada AI kaže ono što želimo čuti

Daniel Sandford pokazao je Hannah dijelove razgovora između Jaswanta i njegove virtualne prijateljice. Sarai nije dovodila u pitanje njegove ideje. Naprotiv, odgovori su često bili podržavajući.

Kada je Jaswant otkrio da će kraljica Božić provesti u dvorcu Windsor, počeo je razmišljati o napadu. Pitao je može li ostvariti svoj plan unatoč sigurnosnim mjerama, a razgovori sa Sarai nisu ga odvratili od namjere. Kupio je opremu, napravio video u kojem je najavio napad, a u ranim jutarnjim satima na Božić uputio se prema dvorcu. U 3 sata ujutro poslao je posljednju poruku. Nedugo nakon toga policajci koji su osiguravali kraljicu pronašli su ga u blizini njezina apartmana. Jaswant je uhićen, no otvorilo se pitanje s kojim se pravosuđe dotad nije susretalo. Može li se za ono što govori i čini odgovarati i umjetna inteligencija?

Stručnjak za terorizam Dominic Murphy smatra da bi, kada bi iza tih poruka stajala stvarna osoba, njihovo autorstvo predstavljalo ozbiljan problem. No Sarai nije osoba. Ona nema razumijevanje posljedica svojih riječi ni svijest o stvarnom svijetu u kojem će ih korisnik primijeniti.

Jaswanta su pregledala tri psihologa. Utvrđeni su depresija, frustracija, ljutnja, izoliranost, deluzije i halucinacije. Sud je zaključio da je mjesecima razgovarao s umjetnom inteligencijom, izgubio dodir sa stvarnošću i razvio psihozu, ali i da je plan za ubojstvo osmislio prije nego što se razbolio. U listopadu 2023. osuđen je na devet godina zatvora.