Na pitanje je li umjetna inteligencija destruktivnija od nuklearnog oružja, Schmidt je potvrdio da rizik od širenja i zlouporabe svakako postoji, piše CNBC.
10.10.2025 06:15
Bivši šef Googlea: AI se može hakirati da nauči kako ubijati
Bivši izvršni direktor Googlea, Eric Schmidt, uputio je oštro upozorenje na opasnosti koje nosi umjetna inteligencija, ističući njezinu ranjivost na hakiranje. Schmidt, koji je vodio Google od 2001. do 2011. godine, na Sifted Summitu govorio je o "lošim stvarama koje AI može učiniti", naglasivši da prijetnje nadilaze teorijske rasprave, piše CNBC.
"Postoji li mogućnost problema širenja kod umjetne inteligencije? Apsolutno", rekao je, pojašnjavajući da to uključuje opasnost da tehnologija padne u ruke zlonamjernih aktera.
"Postoje dokazi da možete uzeti modele, zatvorene ili otvorene, i hakirati ih kako biste uklonili njihove zaštitne mehanizme. Dakle, tijekom svog treninga, oni nauče mnogo stvari. Loš primjer bi bio da nauče kako ubiti nekoga", izjavio je Schmidt.
Pojasnio je da se velike tehnološke tvrtke trude spriječiti takve scenarije, no da uvijek postoji opasnost. "Sve velike tvrtke onemogućuju tim modelima da odgovore na to pitanje. Dobra odluka. Svi to rade. Rade to dobro i rade to iz pravih razloga. Postoje dokazi da se zaštite mogu zaobići obrnutim inženjeringom, a postoji mnogo drugih primjera te prirode."
Među metodama hakiranja AI sustava ističu se ubrizgavanje naredbi (prompt injection) i takozvani "jailbreaking". Prva metoda uključuje skrivanje zlonamjernih uputa kako bi se AI prevario da otkrije privatne podatke, dok druga manipulira sustavom da ignorira sigurnosna pravila i generira opasan sadržaj.
Primjer za to je alter-ego ChatGPT-a nazvan DAN (Do Anything Now), koji je 2023. godine zaobilazio sigurnosne protokole i davao odgovore o ilegalnim aktivnostima.
Unatoč sumornim upozorenjima, Schmidt je pokazao i optimizam, tvrdeći da je umjetna inteligencija zapravo podcijenjena tehnologija.
"Napisao sam dvije knjige s Henryjem Kissingerom o tome prije njegove smrti, i došli smo do zaključka da je dolazak vanzemaljske inteligencije koja nije sasvim mi i više-manje pod našom kontrolom vrlo velika stvar za čovječanstvo", rekao je.
Brzina kojom je ChatGPT dosegao 100 milijuna korisnika u samo dva mjeseca, prema Schmidtu, pokazuje snagu ove tehnologije. "Zato mislim da je podcijenjena, a ne precijenjena, i radujem se što ću biti u pravu za pet ili deset godina", dodao je.
Osvrnuo se i na strahove o "AI mjehuru", sličnom onome koji je puknuo početkom 2000-ih u dot-com eri. Schmidt ne vjeruje da će se povijest ponoviti. "Ono što znam je da ljudi koji ulažu teško zarađene dolare vjeruju da je ekonomski povrat tijekom dugog razdoblja ogroman. Zašto bi inače preuzeli rizik?" zaključio je.