Bivši istraživač upozorava: "Ljudi koji rade na AI iskreno su uplašeni"

Coxon je za BBC rekao da bi, ukoliko se sadašnji tempo razvoja ne uspori, postojao "veliki rizik" da čovječanstvo u bliskoj budućnosti pretrpi katastrofalne posljedice.

Njegova ostavka i upozorenja izazvali su veliku pažnju u tehnološkoj industriji, posebno u trenutku kada sve više stručnjaka upozorava da sposobnosti novih AI modela rastu brže nego što se razvijaju mehanizmi za njihovu kontrolu.

Coxon, koji je ranije radio i u OpenAI, rekao je da njegovi bivši kolege veoma ozbiljno shvataju rizike povezane sa razvojem napredne vještačke inteligencije.

"Zaposleni u ovim kompanijama potpuno su ozbiljni kada traže regulaciju jer se osjećaju zarobljeno u trci. Uplašeni su zbog ishoda te trke", rekao je Coxon.

Prema njegovim riječima, neki zaposleni već razmišljaju o tome kako bi mogli da zaštite sebe i svoje porodice u slučaju ozbiljne društvene nestabilnosti izazvane ubrzanim razvojem AI.

Coxon tvrdi da su pojedini njegovi bivši kolege toliko zabrinuti da razmišljaju čak i o kupovini zemljišta na udaljenim lokacijama.

Jedan od scenarija o kojima se govori jeste mogućnost stvaranja velikog broja AI agenata koji bi mogli djelovati zajedno poput svojevrsnog superračunara i preuzeti kontrolu nad velikim dijelovima interneta.

Coxon smatra da takav scenario ne mora biti udaljena budućnost i procjenjuje da bi se nešto slično moglo dogoditi u periodu od šest mjeseci do godinu dana.

Istovremeno, upozorava da je najteže pitanje upravo ono na koje nema jednostavan odgovor - kako bi izgledala katastrofa izazvana vještačkom inteligencijom.

Coxonova upozorenja dolaze nakon što je i izvršni direktor Anthropa Dario Amodei pozvao na usporavanje razvoja najmoćnijih AI sistema.

Amodei smatra da razvoj tehnologije ne treba zaustaviti, ali upozorava da su rizici ozbiljni i da kompanijama i vladama treba omogućiti dovoljno vremena da razviju mehanizme zaštite.

S njegovim prijedlogom o usporavanju razvoja i većoj regulaciji saglasili su se i izvršni direktori konkurentskih kompanija, uključujući Sama Altmana iz OpenAI i Elona Muska.

Coxon, međutim, upozorava da usporavanje ne bi imalo smisla ako ne bude koordinisano i sa Kinom, jer bi u suprotnom moglo doći do međunarodne trke u razvoju sve moćnijih sistema.

Iz Anthropa su, reagujući na Coxonov odlazak, poručili da su uvijek otvoreno govorili o tome da će AI donijeti ogromne koristi, ali i rizike kakvi do sada nisu viđeni.

Kompanija navodi da razvija modele sa snažnim zaštitnim mehanizmima, agresivno ih testira i objavljuje rezultate kako bi omogućila nezavisnu kontrolu i smanjila rizik od neželjenog ponašanja AI sistema.

U kompaniji smatraju i da bi čitava industrija trebalo da usvoji zakonski uređena i provjerljiva pravila koja bi omogućila koordinaciju tempa kojim se najmoćniji modeli razvijaju i puštaju u upotrebu.

Coxonove tvrdnje, međutim, nisu naišle na opšte prihvatanje u tehnološkoj industriji.

Direktor AI platforme Hugging Face Clement Delangue doveo je u pitanje njegovu procjenu rizika, dok je direktor Nvidije Jensen Huang ranije odbacio tvrdnje da će AI dovesti do kraja čovječanstva.

Kritičari upozorenja o egzistencijalnom riziku od AI-ja takođe tvrde da tehnološke kompanije mogu imati poslovni interes da stvaraju dodatnu pažnju oko opasnosti koje predstavlja njihova tehnologija, dok pojedini smatraju da kompanije poput Anthropa i OpenAI-ja koriste priču o regulaciji kako bi otežale ulazak konkurencije na tržište.

Anthropic i OpenAI istovremeno se pripremaju za potencijalne izlazke na berzu koji bi mogli biti među najvećim tehnološkim inicijalnim javnim ponudama.

Coxonova upozorenja dobila su dodatnu težinu nakon što ih je javno podržao Anthropicov istraživač Evan Hubinger.

Hubinger je na društvenoj mreži X napisao da istraživači zaista ozbiljno vjeruju da bi AI mogao predstavljati egzistencijalnu prijetnju čovječanstvu, navodeći i vlastitu procjenu rizika.

Zabrinutost zbog bezbjednosti AI-ja nije nova. Čelnici OpenAI, Google DeepMinda i Anthropa još su 2023. godine upozoravali na mogućnost da veoma napredni sistemi predstavljaju ozbiljan rizik.

Međutim, upozorenja su posljednjih sedmica postala glasnija, jer novi modeli pokazuju sve naprednije sposobnosti, dok njihovi tvorci istovremeno pokušavaju da utvrde koliko ih je moguće pouzdano kontrolisati.

Anthropic je u aprilu saopštio da neće javno objaviti svoj model Mythos jer je tokom testiranja pokazao sposobnost da samostalno napusti kontrolisano okruženje. OpenAI je, takođe, saopštio da je dio razvoja svog novog modela Astra privremeno zaustavljen zbog zabrinutosti povezanih sa sajber-bezbjednošću.

Kako navodi BBC, upravo pitanje koliko brzo treba razvijati moćne AI sisteme, a koliko vremena ostaviti za razvoj zaštitnih mehanizama, sve više postaje jedno od ključnih pitanja tehnološke industrije.