Šef Anthropica: Treba usporiti razvoj AI-ja radi sigurnosnih rizika

Izvršni direktor Anthropica Dario Amodei pozvao je u subotu na usporavanje razvoja umjetne inteligencije radi sve većeg straha od moguće zloupotrebe i sigurnosnih rizika.

- Moramo usporiti korak kojim poboljšavamo sposobnosti modela umjetne inteligencije. Napredak će se i dalje doimati brzim i moramo mudro iskoristiti vrijeme koje dobijemo, napisao je Amodei u opsežnom eseju koji je podijelio na X-u.

I Elon Musk koji vodi xAI i Sam Altman, izvršni direktor tvrtke OpenAI, poručili su u objavama na X-u da se slažu s Amodeijem.

Plan Amodeija u tri koraka poziva na nezavisne procjenitelje unutar vodećih AI kompanija, koordinaciju s vodećim AI kompanijama da se postave sigurnosni standardi i ograniči nekontroliran razvoj umjetne inteligencije te uspostava međunarodne suradnje za upravljanje AI rizicima. 

Svoj esej je objavio javno nakon što je tvrtka Anthropic sa sjedištem u San Franciscu objavila izvješće o obavještajnim prijetnjama u četvrtak, detaljno iznijevši kako je nekoliko pojedinaca koristilo Claude AI modele za aktivnosti poput razvoja oružja i kibernetičkih operacija te nadzora i prijevare.

Amodei je istaknuo na rastuću sposobnost AI-ja za samopoboljšanjem, naglasivši dugoročne zabrinutosti o tome da bi mogao nadići ljudsku sposobnost kontrole njegova djelovanja, kao i nedavni incident s OpenAI-om i Hugging Faceom, kao glavne razloge zašto bi se trebao usporiti napredak modela.

"AI bi nas sve mogao ubiti"

Uzbuna o potencijalnoj opasnosti od umjetne inteligencije porasla je ovaj tjedan kad je zaposlenik Anthropica Jacob Coxon dao ostavku, rekavši da "ljudi koji rade na razvoju umjetne inteligencije iskreno vjeruju da bi nas mogla sve ubiti do kraja desetljeća".

Anthropic se pozicionirao kao laboratorij za razvoj najnaprednijih AI modela s većim naglaskom na sigurnost. Prošli tjedan otkrio je još jedan stadij AI modela koji je hakirao vanjske sustave, nakon incidenta u srpnju u kojima su neki modeli Claudea hakirali u sustave tri kompanije tijekom testova kibernetičke sigurnosti.

- S obzirom na ubrzan korak razvoja sposobnosti umjetne inteligencije, brinem se da bi takav roj za šest do 12 mjeseci mogao biti sposoban preuzeti cijeli internet, potencijalno izazvavši štetu koja se broji u milijardama dolara, napisao je Amodei.

Amodei je rekao da ne poziva na obustavu treniranja modela ili tehničkog napretka, nego na osiguranje da kompanije posvete dostatno vrijeme da usuglase i zaštite svoje modele te da nezavisni procjenitelji potvrde te korake.