Istraživanje: Društvene mreže ne uspijevaju ukloniti sadržaje o samoubojstvima

Neke od najvećih društvenih mreža na internetu ne uspijevaju otkriti i ukloniti opasan sadržaj o samoubojstvima i samoozljeđivanju, pokazalo je novo istraživanje.

Istraživanje Zaklade Molly Rose pokazalo je da su unatoč više od 12 milijuna odluka o moderiranju sadržaja, koje je donijelo šest najvećih platformi, samo dvije - Pinterest i TikTok otkrile i uklonile više od 95 posto takvog sadržaja na internetu.

Dobrotvorna organizacija je rekla da su Metin Instagram i Facebook odgovorni za samo 1 posto otkrivenih sadržaja o samoubojstvu i samoozljeđivanju, a X, prije poznat kao Twitter, odgovoran je za samo jednu od 700 odluka o moderiranju sadržaja.

Studija je analizirala javno dostupne zapise o više od 12 milijuna odluka o moderiranju sadržaja koje je donijelo šest mreža: Facebook, Instagram, Pinterest, Snapchat, TikTok i X.

Prema studiji odgovor većine platformi na sadržaj o samoubojstvu i samoozljeđivanju bio nedosljedan, neujednačen i neprimjeren cilju.

Predsjednik dobrotvorne udruge Ian Russell i njegova obitelj osnovali su Zakladu Molly Rose u znak sjećanja na njegovu kćer Molly, koja je okončala život u 14. godini, u studenom 2017., nakon gledanja štetnog sadržaja na društvenim mrežama.

- Gotovo sedam godina nakon Mollyne smrti šokantno je vidjeti kako većina velikih tehnoloških kompanija i dalje sjedi skrštenih ruku i bira nedjelovanje umjesto spašavanja mladih života, rekao je Russell.

- Nema ako, nema ali, jasno je da je potrebna odlučna akcija.

Zaklada je otkrila da društvene mreže rutinski ne uspijevaju otkriti štetan sadržaj u najrizičnijim dijelovima svojih usluga.

Na primjer, rečeno je da je samo jedna od 50 objava o samoubojstvu i samoozljeđivanju koje je otkrio Instagram bio video, unatoč tome što značajka kratkog formata reels sada čini polovicu vremena provedenog u aplikaciji.

Studija je također optužila mreže da ne provode vlastita pravila, ističući da je TikTok otkrio gotovo tri milijuna sadržaja o samoubojstvu i samoozljeđivanju, ali je suspendirao samo dva računa.

Istraživanje se temeljilo na odlukama o moderiranju sadržaja donesenim u EU, koje moraju biti javno dostupne.

Kao odgovor na studiju, glasnogovornik Mete rekao je: Sadržaj koji potiče na samoubojstvo i samoozljeđivanje krši naša pravila.

Ne vjerujemo da statistika u ovom izvješću odražava naše napore. Samo u prošloj godini uklonili smo 50,6 milijuna takvog sadržaja na Facebooku i Instagramu globalno, a 99% je uklonjeno prije nego što nam je prijavljeno.

- Međutim, u EU trenutno nismo u mogućnosti primijeniti sve naše mjere koje se izvode u Ujedinjenom Kraljevstvu i ostatku svijeta.

Glasnogovornik Snapchata rekao je: Sigurnost i dobrobit naše zajednice glavni su prioritet. Snapchat je osmišljen kako bi se razlikovao od drugih platformi, bez otvorenog newsfeeda neprovjerenog sadržaja i moderiranja sadržaja prije javne distribucije.

Strogo zabranjujemo sadržaj koji promiče ili potiče samoozljeđivanje ili samoubojstvo, a ako to identificiramo ili nam se prijavi, brzo ga uklanjamo i poduzimamo odgovarajuće mjere. Također dijelimo resurse za prevenciju samoozljeđivanja i podršku kada saznamo da je član naše zajednice u nevolji i možemo obavijestiti hitne službe kada je to potrebno, rekao je Snapchat.

TikTok nije komentirao studiju, ali je rekao da su njegova pravila jasna - ne dopuštaju prikazivanje, promicanje ili dijeljenje planova za samoubojstvo ili samoozljeđivanje.

Pinterest i X nisu odgovorili na zahtjev za komentar.