Šefovi AI kompanija upozoravaju na svoju tehnologiju: "Mogla bi izmaći kontroli"

Kako bi Savjetu bezbjednosti Ujedinjenih nacija dočarao brzinu razvoja vještačke inteligencije, izvršni direktor kompanije OpenAI, Sem Altman, podsetio je na situaciju od pre samo nekoliko godina.

U to vrijeme, kako je naveo, modeli vještačke inteligencije bili su tek solidni u rješavanju matematičkih zadataka za osnovnu školu. Već godinu dana kasnije dostigli su nivo srednjoškolaca, prenosi B92  pozivajući se na DW.

Prošlog ljeta, prema Altmanovim riječima, sistem OpenAI dostigao je nivo znanja dovoljan za osvajanje zlatne medalje na jednom od najprestižnijih svjetskih matematičkih takmičenja. Danas je, tvrdi on, sposoban i za rješavanje izuzetno složenih matematičkih problema koji su se donedavno smatrali rezervisanim za vrhunske stručnjake.

Upravo u tome Altman vidi glavni rizik. "Vještačka inteligencija mogla bi da se razvija toliko brzo da nijedan čovjek više ne bi mogao da prati taj razvoj niti da interveniše ako bi to postalo neophodno", upozorava on.

Pored toga, prvi čovjek OpenAI strahuje i od koncentracije ogromne moći u rukama malog broja kompanija ili država.

Sličan stav zastupa i Dario Amodei, direktor kompanije Anthropic. On upozorava da bi terorističke organizacije jednog dana mogle da koriste vještačku inteligenciju za razvoj biološkog oružja ili drugih opasnih tehnologija. "U slučaju neprimjerene upotrebe, vještačka inteligencija mogla bi da postane rizik za čitavo čovječanstvo" smatra Amodei.

To što vodeće AI kompanije upozoravaju na opasnosti tehnologije koju same razvijaju, stručnjak iz Silicijumske doline Tom Ford smatra pozitivnim signalom. Međutim, vjeruje da iza toga postoje i veoma praktični motivi.

"Mislim da zaista postoje razlozi za zabrinutost i da su kompanije došle do rezultata koji su ih iznenadili i koje žele transparentno da podijele sa javnošću", kaže Ford.

Ali, dodaje, postoji i druga strana priče: "Istovremeno žele da utiču na pravila koja će biti donijeta. Ne žele da ih regulativa jednog dana zatekne nespremne ili da se suoče sa pravnim posljedicama. Žele da budu dio procesa i da učestvuju u njegovom oblikovanju".

Prijedlozi koje iznose vodeće AI kompanije uglavnom su slični. Amodei, na primjer, traži uspostavljanje međunarodnih standarda za procjenu rizika od gubitka kontrole nad modelima vještačke inteligencije i njihove moguće zloupotrebe.

Osim toga, zalaže se za stvaranje sistema za prijavljivanje incidenata povezanih sa vještačkom inteligencijom koji bi mogli da imaju posljedice po globalnu bezbjednost.

I OpenAI i Anthropic ističu da su već uveli sopstvene bezbjednosne procedure, ali naglašavaju da su spremni da sarađuju sa vladama širom svijeta na donošenju strožih propisa. Po potrebi bi, tvrde, bili spremni čak i da uspore razvoj najnaprednijih sistema.

Američki predsjednik Donald Tramp zauzima potpuno drugačiji stav. U obraćanju pred Ujedinjenim nacijama jasno je poručio da upozorenja o opasnostima vještačke inteligencije smatra preteranim i zlonamjernim. Pritom je najavio da bi tu tehnologiju ubuduće radije nazivao "superinteligencijom".

"Ko god pobijedi u trci razvoja vještačke inteligencije, pobjeđuje u svemu", rekao je Tramp. "Mi smo trenutno ispred Kine i tako mora da ostane".

Prema njegovom mišljenju, previše stroga regulacija mogla bi da ugrozi američku tehnološku prednost u globalnom nadmetanju sa Pekingom.

U većini država-članica UN zahtjevi za globalnu regulaciju naišli su na znatno više razumijevanja. Početkom nedjelje lideri više od dvadeset država, među kojima je i Njemačka, izjasnili su se za stroža međunarodna pravila.

Podržana je i ideja osnivanja posebnog regulatornog tijela pod okriljem Ujedinjenih nacija koje bi pratilo razvoj najnaprednijih sistema vještačke inteligencije i procjenjivalo njihove bezbjednosne rizike.

Tako se sve jasnije oblikuju dva suprotstavljena pogleda na budućnost vještačke inteligencije: jedan koji upozorava da su potrebna globalna ograničenja i nadzor, i drugi koji smatra da bi previše pravila moglo da uspori tehnološki napredak i oslabi poziciju SAD u trci sa Kinom.

(B92)