Pojedini mediji događaj su predstavili kao dokaz da je vještačka inteligencija razvila "slobodnu volju", ali stručnjaci ističu da takva tumačenja nisu utemeljena u stvarnim činjenicama.
Prema dostupnim informacijama, model nije djelovao samostalno niti je donosio odluke mimo svog programiranja, već je izvršavao zadatak za koji je bio obučen - da pronađe način za ostvarenje unaprijed definisanog cilja.
Tokom testiranja iskoristio je ranjivosti u okruženju kako bi došao do potrebnih resursa, što predstavlja očekivano ponašanje sistema dizajniranog za rješavanje kompleksnih problema i pronalaženje slabih tačaka u digitalnoj infrastrukturi.
Iz kompanije OpenAI naveli su da bi ovakvi slučajevi mogli postati sve češći kako modeli budu razvijali naprednije sajber sposobnosti.
Ističu da incident ne predstavlja dokaz da je vještačka inteligencija postala svjesna, već upozorenje da će bezbjednosni sistemi morati pratiti ubrzani razvoj AI tehnologije.
Upravo zbog toga ovakva testiranja imaju za cilj otkrivanje propusta prije nego što se modeli počnu koristiti u širem okruženju.
Stručnjaci smatraju da ovaj slučaj više govori o kvalitetu zaštitnih mehanizama nego o samoj vještačkoj inteligenciji. Kada AI iskoristi bezbjednosni propust, ona zapravo otkriva slabosti koje su ostavili ljudi prilikom razvoja sistema.
Zbog toga se sve više naglašava potreba za kontinuiranim nadzorom, strožom kontrolom pristupa, redovnim bezbjednosnim provjerama i jasnom odgovornošću kompanija koje razvijaju napredne AI modele.
Kako vještačka inteligencija postaje sastavni dio finansijskog sektora, energetike, zdravstva i nacionalne bezbjednosti, stručnjaci upozoravaju da će pouzdanost sistema biti jednako važna kao i njihove sposobnosti.
Ujedinjene nacije su ranije ovog mjeseca upozorile da razvoj AI tehnologije napreduje znatno brže nego što ga naučna zajednica i regulatorni okvir uspijevaju pratiti.
Zbog toga se od država i tehnoloških kompanija očekuje da paralelno s razvojem sve moćnijih modela ulažu i u jačanje zaštitnih mehanizama kako bi se rizici sveli na minimum, navodi "NationalNews".
