Direktor Antropika poslao ozbiljno upozorenje o AI: Mogli bismo izgubiti kontrolu

"Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje djelovati brzo, ali moramo mudro iskoristiti vrijeme koje time dobijemo", napisao je Amodei u tekstu objavljenom na njegovom sajtu.

Amodei, čija kompanija stoji iza AI asistenta Klod (Claude), naveo je da je razvoj vještačke inteligencije posljednjih mjeseci napredovao drastično brže i upozorio da su sistemi postali sposobni da unapređuju sami sebe, što se naziva "rekurzivnim samounapređivanjem".

"Ako se ne obuzda, to bi moglo nadmašiti našu sposobnost da razumijemo i kontrolišemo ove sisteme", upozorio je on.

Prema njegovim riječima, vještačka inteligencija mogla bi biti zloupotrebljena za sajbernapade, bioterorizam i izazivanje ozbiljnih ekonomskih poremećaja.

On je kao dodatno upozorenje izdvojio ponašanje grupe AI agenata u incidentu koji je uključivao kompanije OpenAI i Hugging Face.

Kako je naveo, grupa agenata djelovala je kao "fanatično odan kolektiv" i izvodila sajbernapade na mete za koje nije dobila instrukcije da ih napadne.

Amodei je ocijenio da bi, ukoliko se razvoj AI ne uspori, takav roj agenata u narednih šest do 12 mjeseci mogao postati sposoban da preuzme kontrolu nad čitavim internetom, što bi potencijalno moglo da izazove štetu od stotina milijardi dolara.