Samovozeći automobili, dvije tragedije i jedno važno pitanje

Tko je odgovoran kada automobil vozi sam, čovjek za upravljačem ili umjetna inteligencija? Hannah Fry istražuje dvije prometne tragedije koje su obilježile razvoj autonomnih vozila. Ako ste propustili drugu epizodu dokumentarne serije „Skrivene opasnosti umjetne inteligencije s Hannom Fry“, možete je pogledati na našoj HRTi platformi.

Samovozeći automobili više nisu prizor iz budućnosti. No što se događa kada tehnologija koja bi trebala povećati sigurnost zakaže? Dvije prometne nesreće sa smrtnim ishodom, jedna u Arizoni, druga na Floridi, pokazuju koliko je teško odrediti granicu odgovornosti između čovjeka i sustava koji upravlja ili pomaže u vožnji.

U oba slučaja automobil je imao zadatak pomoći vozaču ili samostalno reagirati, ali posljedice su bile tragične. Pitanje koje ih povezuje jednostavno je, ali odgovor na njega nije: ako automobil može sam voziti, tko je odgovoran kada pogriješi?

Automobil koji je trebao sam vidjeti pješakinju

U ožujku 2018. u Tempeju u Arizoni dogodila se nesreća koja je promijenila raspravu o sigurnosti autonomnih vozila. Uberov automobil u autonomnom načinu vožnje udario je 49-godišnju Elaine Herzberg, koja je gurala bicikl preko ceste. Herzberg je preminula, a za upravljačem se nalazila sigurnosna operaterica Rafaela Vasquez.

Hannah Fry upravo s njom pokušava ponovno proći kroz te kobne minute. Vasquez je godinama izbjegavala javno govoriti o nesreći, a Fry je prva osoba kojoj je o događaju govorila pred kamerama. Zajedno se vraćaju i na mjesto na kojem se sve dogodilo, prvi put nakon nesreće za Rafaelu. Automobil je Herzberg detektirao, ali ju je sustav pogrešno klasificirao i nije na vrijeme reagirao. Istraga je pokazala i da je Vasquez u trenucima prije nesreće gledala prema dolje i na telefonu pratila televizijski sadržaj. Ona je, međutim, tvrdila da je istodobno obavljala posao za koji je bila zadužena.

Naime, u početku su Uberovi autonomni automobili imali dva operatera – jedan je pratio ponašanje vozila, a drugi je trebao preuzeti kontrolu ako nešto pođe po zlu. Nekoliko mjeseci prije nesreće ta je uloga prepuštena jednoj osobi. Fry upravo tu promjenu stavlja u širi kontekst i pita se koliko je realno očekivati da čovjek satima nadzire automobil koji bi, barem u teoriji, trebao voziti sam. Vasquez je 2023. priznala krivnju za ugrožavanje sigurnosti te je osuđena na tri godine uvjetne kazne uz nadzor.

Druga nesreća, drugi automobil, isto pitanje

Godinu dana poslije, na Floridi se dogodila još jedna tragedija. George McGee vozio je Tesla Model S s uključenim Autopilotom kada mu je ispao mobitel. Pokušao ga je dohvatiti, a automobil je nastavio voziti. Prošao je kroz raskrižje i udario u Chevrolet Tahoe pored kojeg su se nalazili Naibel Benavides Leon i njezin dečko Dillon Angulo. 22-godišnja Naibel poginula je, dok je Dillon teško ozlijeđen.

Fry ga vodi natrag na mjesto nesreće, gdje joj pokazuje posljedice sudara. Iza tehničkih podataka tako ostaje priča čovjeka koji je u jednoj večeri izgubio djevojku, a potom godinama pokušavao utvrditi koliki dio odgovornosti za ono što se dogodilo nosi Tesla.

McGee je odgovarao zbog neoprezne vožnje, no Dillon i obitelj poginule Naibel željeli su da odgovornost snosi i proizvođač. Slučaj je tako stigao do suda i otvorio novo pitanje: što se događa kada vozač pogriješi, ali se pritom oslanja na sustav koji bi mu trebao pomagati u vožnji? U kolovozu 2025. porota je zaključila da su za nesreću odgovorni i vozač i Tesla.

Time je pitanje iz Tempeja dobilo novu dimenziju. U Arizoni je čovjek trebao nadzirati automobil koji je vozio sam. Na Floridi je čovjek aktivirao sustav koji je trebao pomoći u vožnji, ali je pritom svoju pažnju usmjerio drugamo.

Hannah Fry ne ostaje samo na tim tragedijama. Isprobava i današnja autonomna vozila te pokazuje koliko su se sustavi u međuvremenu razvili, ali i zašto pitanje odgovornosti nije nestalo zajedno s tehnološkim napretkom.

Jer možda je upravo to najveći paradoks samovozećih automobila: od njih očekujemo da budu dovoljno pametni da nas zaštite, ali istodobno i dalje očekujemo da čovjek bude spreman reagirati kada oni pogriješe.